Undang-Undang AI UE. Bagaimana Eropa mengatur penggunaan kecerdasan buatan | AI dalam bisnis #68

Apa itu Undang-Undang AI, dan mengapa itu penting bagi UKM (usaha kecil dan menengah)?

Undang-Undang AI adalah regulasi pertama dari jenisnya di dunia. Yang pertama secara komprehensif menangani kecerdasan buatan dari pendekatan yang berfokus pada manusia terhadap AI. Ini bertujuan untuk memastikan bahwa sistem AI yang digunakan di Eropa aman dan mendorong inovasi, sambil menghormati hak-hak dasar, dengan fokus khusus pada:

• perawatan kesehatan – misalnya, menghormati privasi data pasien,
• pendidikan – mematuhi nilai-nilai yang dipromosikan oleh Uni Eropa dan menghindari diskriminasi,
• perlindungan perbatasan – memastikan keamanan tanpa melanggar hak-hak warga negara,
• layanan publik – mengikuti praktik terbaik dalam perlindungan data, hak atas informasi, dan komunikasi yang jelas.

Bagi UKM, Undang-Undang AI akan terutama membawa kepastian hukum yang lebih besar karena secara jelas mendefinisikan kerangka untuk inovasi: prinsip-prinsip merancang, mengembangkan, dan menerapkan sistem AI. Ini akan memudahkan perusahaan untuk berinvestasi dalam solusi berbasis AI, mengurangi risiko hukum. Selain itu, regulasi yang berlaku di seluruh Uni akan mencegah fragmentasi pasar.

Regulasi Eropa tentang kecerdasan buatan diadopsi oleh Parlemen Eropa dan Dewan Eropa pada 9 Desember 2023. Sekarang, mereka harus diterima secara formal oleh kedua institusi untuk mulai berlaku.

Aspek kunci dari Undang-Undang AI untuk bisnis

Undang-Undang AI UE memperkenalkan serangkaian persyaratan untuk sistem AI, tergantung pada tingkat risikonya. Persyaratan ini mencakup, antara lain:

• kewajiban transparansi dan pemberitahuan kepada pengguna dalam kasus interaksi dengan chatbot, sistem biometrik, atau teknologi pengenalan emosi,
• larangan menggunakan atribut sensitif untuk kategorisasi biometrik,
• penilaian kepatuhan yang wajib sebelum masuk pasar untuk sistem berisiko tinggi,
• pendaftaran wajib dalam basis data UE — setelah Undang-Undang AI mulai berlaku, sistem AI yang digunakan di sektor kunci seperti pendidikan, pekerjaan, perawatan kesehatan, dan penegakan hukum akan diwajibkan untuk terdaftar.

Produsen dan perusahaan yang menggunakan sistem AI juga akan diwajibkan untuk memantau risiko setelah memperkenalkannya ke pasar. Ini akan berdampak langsung pada perusahaan yang merancang dan menerapkan sistem AI.

Tingkat risiko sistem AI menurut Undang-Undang AI UE

Undang-Undang AI mengklasifikasikan sistem AI ke dalam empat kategori berdasarkan tingkat risikonya:

1. Risiko yang tidak dapat diterima
2. Risiko tinggi
3. Risiko terbatas
4. Risiko minimal

Mari kita lihat lebih dekat bagaimana setiap kelompok akan didefinisikan, bersama dengan contoh sistem dan klasifikasinya.

Risiko yang tidak dapat diterima

Uni Eropa memberlakukan larangan total terhadap penggunaan teknologi yang terdaftar dalam Undang-Undang AI sebagai sistem dengan risiko yang tidak dapat diterima. Ini terutama adalah sistem yang dirancang untuk mengeksploitasi kerentanan individu terhadap sugesti untuk manipulasi atau penipuan, sistem yang memberikan kecerdasan buatan kemampuan untuk membuat keputusan dalam hal-hal penting, dan yang dapat menyebabkan penyalahgunaan kekuasaan. Contoh AI dengan risiko yang tidak dapat diterima termasuk:

• senjata otonom yang beroperasi tanpa pengawasan manusia,
• sistem penilaian kredibilitas yang digunakan oleh lembaga penegak hukum,
• sistem identifikasi otomatis individu di ruang publik, seperti yang berbasis pada rekaman kamera pengawas,
• sistem kecerdasan buatan yang dapat berbahaya bagi individu dengan disabilitas fisik atau mental,
• AI yang digunakan untuk tujuan penegakan hukum, dengan pengecualian terbatas,
• sistem kecerdasan buatan yang menggunakan teknik “subliminal” dan manipulatif yang berbahaya.

Bagi bisnis, kategori terakhir ini sangat penting. Inilah sebabnya mengapa transparansi dalam operasi sistem yang memberikan saran kepada pengguna dan pelanggan akan sangat penting untuk mematuhi undang-undang baru Uni Eropa.

Risiko tinggi

Kecerdasan buatan yang diklasifikasikan sebagai solusi AI berisiko tinggi harus memenuhi persyaratan ketat sebelum memasuki pasar. Ini melibatkan penilaian kepatuhan dan pengujian yang ketat sebelum disetujui untuk digunakan. Kategori risiko ini mencakup delapan area, seperti:

• kendaraan otonom,
• sistem diagnosis medis,
• algoritma prediktif yang mendukung sistem peradilan,
• manajemen migrasi dan suaka, kontrol perbatasan, serta
• manajemen pekerjaan dan tenaga kerja.

Risiko terbatas

Untuk sistem berisiko terbatas, yang paling umum digunakan dalam bisnis, para pembuat undang-undang beruntung memberikan perhatian yang jauh lebih sedikit. Kategori ini mencakup:

• chatbot AI – digunakan untuk layanan pelanggan atau menjawab pertanyaan yang sering diajukan dalam bentuk percakapan yang mengalir bebas,
• sistem pengenalan emosi – digunakan, misalnya, untuk mengumpulkan data tentang pendapat pelanggan tentang suatu perusahaan,
• sistem kategorisasi biometrik – seperti menilai jenis kelamin atau usia pelanggan di toko fisik,
• generasi gambar, audio, atau video – meskipun ada ancaman yang ditimbulkan oleh deep fakes, area ini akan dikenakan seperangkat kewajiban yang terbatas.

Risiko rendah atau minimal

Solusi AI berisiko rendah tidak tunduk pada regulasi hukum. Undang-Undang AI hanya akan menyebutkan bahwa pencipta dan pengguna solusi semacam itu harus secara sukarela menetapkan kebijakan penggunaan. Ini berkaitan dengan solusi seperti:

• sistem rekomendasi konten di layanan streaming, atau
• chatbot di situs web yang menjawab pertanyaan pelanggan yang umum.

Persyaratan apa yang ditetapkan oleh Undang-Undang AI untuk solusi yang digunakan oleh perusahaan saya?

Untuk memeriksa apakah kecerdasan buatan yang digunakan oleh perusahaan mematuhi Undang-Undang AI, Anda harus:

• mengklasifikasikannya ke dalam salah satu dari empat kategori risiko yang dijelaskan di atas,
• jika itu adalah AI berisiko tinggi, lakukan penilaian kepatuhan,
• gunakan praktik baik terkait AI berisiko rendah.

Mari kita lihat contoh solusi AI yang sering digunakan oleh perusahaan. Persyaratan apa yang harus mereka penuhi?

Chatbot layanan pelanggan yang memberikan informasi dasar tentang produk atau menjawab pertanyaan pelanggan yang umum kemungkinan akan diklasifikasikan sebagai sistem berisiko minimal. Ini perlu:

• memberitahu pengguna bahwa mereka berinteraksi dengan AI,
• memberikan opsi untuk dialihkan ke konsultan manusia,
• mematuhi persyaratan umum mengenai transparansi, non-diskriminasi, dll.

Sistem rekomendasi produk dalam e-commerce kemungkinan akan dianggap sebagai sistem berisiko rendah. Penting untuk memberitahu pelanggan bahwa mereka menerima rekomendasi yang dipersonalisasi dan memberikan opsi untuk menonaktifkannya.

Di sisi lain, sistem diagnosis medis otomatis akan diklasifikasikan sebagai sistem berisiko tinggi. Ini perlu menjalani penilaian yang ketat sebelum masuk pasar dan diawasi oleh manusia. Selain itu, pemantauan operasinya dan pelaporan insiden akan diperlukan.

Sistem pencegahan kejahatan perkotaan juga akan dianggap berisiko tinggi. Ini harus mematuhi regulasi tentang perlindungan privasi dan hak-hak dasar lainnya. Operasinya harus berada di bawah pengawasan manusia yang konstan.

Masih belum jelas ke kategori mana sistem pengambilan keputusan berbasis AI akan jatuh. Kemungkinan sistem rekrutmen berbasis AI yang membuat keputusan perekrutan sendiri akan dianggap sebagai solusi AI dengan risiko yang tidak dapat diterima. Di sisi lain, sistem dukungan rekrutmen yang membantu orang melakukan pekerjaan mereka akan dianggap sebagai solusi berisiko tinggi.

Demi kesejahteraan pengguna, serta kemungkinan perubahan dalam klasifikasi, sangat penting untuk mendekati pembangunan dan penggunaan sistem AI dengan cara yang etis dan bertanggung jawab sejak awal.

Apa konsekuensi dari tidak mematuhi Undang-Undang AI?

Ketidakpatuhan terhadap Undang-Undang AI dapat mengakibatkan denda yang signifikan bagi perusahaan, mulai dari €35 juta atau 7% dari omset global untuk perusahaan besar hingga €7,5 juta atau 1,5% untuk UKM. Sistem AI yang melanggar hukum mungkin akan ditarik dari pasar, dan penggunaannya dapat dibatasi.

Bagaimana cara mempersiapkan diri untuk berlakunya Undang-Undang AI?

Jadi, bagaimana Anda mempersiapkan perusahaan yang menggunakan kecerdasan buatan untuk berlakunya Undang-Undang AI pada tahun 2025? Berikut adalah beberapa tips tentang bagaimana UKM dan startup dapat mempersiapkan momen ini:

• terus mengikuti perkembangan pekerjaan dan jadwal implementasi regulasi,
• menilai sistem AI yang sudah digunakan dan menyesuaikannya dengan persyaratan baru,
• memberikan perhatian khusus pada aspek etis dalam desain AI.

Ringkasan

Pengenalan Undang-Undang AI adalah perubahan besar bagi ekosistem AI di Eropa. Namun, dengan aturan yang jelas dan konsisten, ini menjanjikan untuk memastikan pengembangan teknologi ini yang aman dan etis, yang seharusnya menguntungkan UKM dan startup secara khusus.

Undang-Undang AI, yang akan mulai berlaku pada tahun 2025, akan membawa perubahan signifikan dalam cara usaha kecil dan menengah (UKM) dapat memanfaatkan kecerdasan buatan. Bagi UKM, ini terutama berarti perlunya pertimbangan dan analisis yang cermat terhadap solusi AI yang mereka gunakan, baik dari segi kepatuhan terhadap regulasi maupun dampak potensial terhadap pelanggan dan masyarakat.

Bagi pemilik dan manajer usaha kecil, sangat penting untuk memahami bagaimana sistem AI mereka dikategorikan dalam hal risiko dan tindakan apa yang diperlukan untuk menyelaraskannya dengan regulasi yang akan datang. Ambil contoh, sistem AI yang digunakan dalam manajemen pelanggan atau pemasaran, yang sebelumnya digunakan cukup bebas. Sekarang, mereka akan memerlukan analisis menyeluruh untuk kepatuhan terhadap Undang-Undang AI. Ini bisa menciptakan peluang baru bagi perusahaan yang mengkhususkan diri dalam nasihat hukum teknologi, memberikan dukungan kepada UKM dalam beradaptasi dengan persyaratan baru ini.

Jika Anda menyukai konten kami, bergabunglah dengan komunitas sibuk kami di Facebook, Twitter, LinkedIn, Instagram, YouTube, Pinterest, TikTok.