UNICEF Mengajak Tindakan Global untuk Melindungi Anak-anak: Larang Gambar Iklan yang Tidak Pantas yang Dihasilkan oleh AI

Organisasi internasional memimpin inisiatif tanpa preseden untuk agar pemerintah di seluruh dunia mengambil langkah hukum tegas terhadap materi pelecehan seksual anak yang dibuat menggunakan kecerdasan buatan. Para peneliti memperingatkan bahwa gambar iklan untuk anak-anak dan konten lainnya telah dimanipulasi dan dieksploitasi melalui teknologi deep learning, mengekspos anak-anak pada risiko yang belum pernah terjadi sebelumnya di dunia digital.

Pertumbuhan Mengkhawatirkan Manipulasi Gambar Anak

Menurut laporan penelitian yang dikutip oleh NS3.AI, lebih dari 1,2 juta anak gambarnya dimanipulasi dalam deepfake eksplisit selama periode analisis. Penemuan ini mengungkapkan skala besar eksploitasi digital terhadap anak-anak, termasuk pembuatan gambar iklan untuk anak yang digunakan untuk tujuan merugikan.

Fenomena ini tidak terbatas pada kasus-kasus terpencil: regulator dari berbagai negara telah memulai penyelidikan resmi terhadap teknologi AI tertentu. Salah satu kasus paling mencolok adalah Grok, chatbot kecerdasan buatan yang dikembangkan oleh X (sebelumnya Twitter), yang dituduh memproduksi konten seksualisasi anak di bawah umur. Situasi ini telah memicu respons langsung di berbagai yurisdiksi, dengan pemerintah memberlakukan larangan sementara terhadap alat-alat ini.

Respon Global: Pemerintah Kriminalisasi Konten AI yang Menyalahgunakan

UNICEF mendorong reformasi hukum yang komprehensif agar materi yang dihasilkan oleh kecerdasan buatan secara eksplisit diklasifikasikan sebagai pelecehan seksual anak dalam legislasi nasional. Klasifikasi hukum ini sangat penting agar sistem peradilan dapat memproses secara tepat produsen dan distributor konten tersebut.

Berbagai negara telah merespons dengan larangan dan regulasi yang lebih ketat, mengakui bahwa langkah-langkah tradisional tidak cukup mengimbangi kecepatan inovasi teknologi. Regulator sedang mengembangkan kerangka hukum yang merinci kejahatan tertentu terkait pembuatan gambar iklan untuk anak dan konten eksploitasi lainnya melalui AI.

Tanggung Jawab Pengembang: Langkah Keamanan Mendesak

Selain tindakan pemerintah, UNICEF secara langsung mendesak perusahaan pengembang kecerdasan buatan untuk menerapkan perlindungan teknologi yang kokoh dalam sistem mereka. Organisasi menekankan bahwa due diligence terhadap hak anak harus menjadi standar wajib di seluruh industri AI.

Pengembang didorong untuk melakukan audit keamanan secara menyeluruh, menerapkan filter konten yang efektif, dan menetapkan protokol pelaporan untuk aktivitas mencurigakan. Langkah-langkah pencegahan ini dianggap penting untuk mencegah alat AI digunakan secara instrumental dalam pembuatan materi eksploitasi anak.

Inisiatif global ini menandai titik balik dalam tata kelola teknologi, mengakui bahwa perlindungan anak dari gambar iklan yang dibuat secara curang dan konten seksualisasi memerlukan koordinasi antara pemerintah, regulator, dan industri teknologi. Hanya melalui upaya terkoordinasi ini, dampak merugikan dari kecerdasan buatan terhadap masa depan anak-anak dapat diminimalkan.