Wednesday, April 17, 2024
Berita Teknologi

Uni Eropa Larang AI Beresiko

Washington, PCplus – Parlemen Eropa hari ini memberikan suara untuk menyetujui Undang-Undang Kecerdasan Buatan (AI). Di aturan ini Uni Eropa akan larang penggunaan AI yang beresiko atau “menimbulkan risiko yang tidak dapat diterima”. Dan memberlakukan regulasi pada jenis AI yang kurang berisiko.

Baca Juga: 8 Website AI Terbaik di 2024, Harus Tau Nih!

“Aturan baru melarang aplikasi AI tertentu yang mengancam hak-hak warga. Termasuk sistem kategorisasi biometrik berdasarkan karakteristik sensitif. Dan pengumpulan gambar wajah dari internet atau rekaman CCTV secara acak untuk membuat basis data pengenalan wajah”. Demikian pengumuman Parlemen Eropa seperti dikutip PCplus dari Arstechnica. “Pengenalan emosi di tempat kerja dan sekolah, penilaian sosial, polisi prediktif (ketika hanya berdasarkan profil seseorang atau menilai karakteristik mereka), dan AI yang memanipulasi perilaku manusia atau mengeksploitasi kerentanan orang juga akan dilarang”. Lanjut bunyi aturan tersebut.

Larangan terhadap aplikasi AI tertentu menyediakan sanksi denda sampai 35 juta euro. Atau 7 persen dari total omset tahunan global perusahaan untuk tahun keuangan sebelumnya, dan dipilih mana yang lebih tinggi. Pelanggaran terhadap ketentuan lain disebut memiliki sanksi yang lebih rendah. Kendati demikian tetap ada pengecualian untuk memungkinkan penggunaan sistem identifikasi biometrik jarak jauh. Utamanya yang dilakukan oleh penegak hukum dalam kasus tertentu.

Dalam ringkasannya, legislasi Komisi Uni Eropa menyatakan:

Semua sistem identifikasi biometrik jarak jauh dianggap berisiko tinggi dan tunduk pada persyaratan ketat. Penggunaan identifikasi biometrik jarak jauh di ruang publik untuk tujuan penegakan hukum, pada prinsipnya, dilarang.

Pengecualian diberlakukan secara ketat dan diatur. Seperti saat diperlukan untuk mencari anak yang hilang, mencegah ancaman teroris yang spesifik dan atau untuk mendeteksi, melacak, mengidentifikasi, atau menuntut pelaku atau tersangka kejahatan serius.

Disetujui lebih dari setengah anggota parlemen

Undang-undang “Kewajiban Ketat” untuk AI Berisiko Tinggi didukung oleh 523 anggota Parlemen Eropa (MEP). Sementara 46 memberikan suara menentang dan 49 abstain. Legislasi tersebut mengklasifikasikan AI ke dalam empat kategori risiko: risiko tidak dapat diterima, risiko tinggi, risiko terbatas, dan risiko minimal atau tidak ada.

“Sistem AI berisiko tinggi akan tunduk pada kewajiban ketat sebelum mereka dapat dipasarkan,” kata ringkasan legislasi tersebut. Kewajiban termasuk sistem penilaian dan mitigasi risiko yang memadai, pencatatan aktivitas untuk memastikan pelacakan hasil, tindakan pengawasan manusia yang tepat untuk meminimalkan risiko, dan persyaratan lainnya.

Ditentang kelompok pro AI

Hukum ini menarik perlawanan dari Computer & Communications Industry Association, sebuah kelompok lobi industri teknologi.

“Undang-Undang AI yang disepakati memberlakukan kewajiban ketat pada pengembang teknologi canggih yang menjadi dasar banyak sistem hilir, dan oleh karena itu kemungkinan akan memperlambat inovasi di Eropa,” kata kelompok tersebut. Mereka merespon ketika kesepakatan tentang hukum tersebut dicapai pada Desember 2023. “Selain itu, sistem AI berisiko rendah tertentu kini akan tunduk pada persyaratan ketat tanpa pembenaran lebih lanjut. Sementara yang lain akan dilarang sama sekali. Ini bisa menyebabkan eksodus perusahaan dan talenta AI Eropa yang mencari pertumbuhan di tempat lain”

Hukum tersebut secara resmi akan tercatat dalam buku 20 hari setelah publikasinya di Jurnal resmi, demikian pengumuman Parlemen Eropa. Larangan terhadap praktik yang dilarang akan berlaku enam bulan setelah itu, tetapi regulasi lainnya tidak akan berlaku sampai nanti. “Kewajiban untuk sistem berisiko tinggi” hanya akan berlaku setelah 36 bulan, pengumuman tersebut menyatakan.

“Akhirnya kita memiliki undang-undang mengikat pertama di dunia tentang kecerdasan buatan, untuk mengurangi risiko, menciptakan peluang, memerangi diskriminasi, dan membawa transparansi,” kata MEP Brando Benifei, co-rapporteur Komite Pasar Internal. Kantor AI akan dibentuk “untuk mendukung perusahaan mulai mematuhi aturan sebelum mereka mulai berlaku,” katanya.

Uni Eropa Larang Kategori AI beresiko ini

Kategori AI berisiko tinggi. Mencakup penggunaan AI dalam bedah yang dibantu robot. Beberapa contohnya adalah sistem penilaian kredit yang dapat menolak pinjaman, penegakan hukum yang dapat mengganggu hak-hak fundamental, seperti evaluasi keandalan bukti, dan pemeriksaan otomatis aplikasi visa.

Kategori risiko terbatas. Berkaitan dengan aplikasi yang tidak transparan tentang penggunaan AI. “Undang-undang AI memperkenalkan kewajiban transparansi khusus untuk memastikan bahwa manusia diberi tahu ketika diperlukan. Hal ini dilakukan untuk membangun kepercayaan,” kata Komisi Eropa.

Misalnya, ketika menggunakan sistem AI seperti chatbot, manusia harus diberitahu bahwa mereka berinteraksi dengan mesin. Sehingga mereka dapat mengambil keputusan berdasarkan informasi tadi apakah akan melanjutkan atau mundur. Penyedia juga harus memastikan bahwa konten yang dihasilkan oleh AI dapat diidentifikasi.

Teks yang dihasilkan oleh AI yang dipublikasikan dengan tujuan memberi informasi kepada publik tentang masalah-masalah kepentingan publik harus diberi label sebagai buatan. Dan persyaratan ini juga berlaku untuk konten audio dan video yang merupakan deep fake.

AI dengan risiko minimal atau tanpa risiko. Termasuk aplikasi seperti permainan video berbasis AI atau filter spam. “Sebagian besar sistem AI yang saat ini digunakan di UE masuk ke dalam kategori ini,” kata komisi tersebut. Tidak akan ada batasan larangan pada kategori ini.

Komentar kamu