UNICEF Mengimbau Dunia untuk Menghentikan Eksploitasi Anak yang Dihasilkan oleh AI

Organisasi internasional Perserikatan Bangsa-Bangsa membuat seruan mendesak kepada pemerintah global agar memberlakukan kriminalisasi yang keras terhadap materi pelecehan seksual anak yang dihasilkan oleh kecerdasan buatan. Seruan ini menjadi semakin relevan di saat teknologi AI telah menjadi alat untuk tujuan ilegal, menempatkan anak-anak dalam risiko yang belum pernah terjadi sebelumnya.

Peringatan tentang Deepfake Anak dan Angka Mengkhawatirkan

Menurut penelitian yang dilakukan oleh NS3.AI, lebih dari 1,2 juta anak telah gambar wajahnya dimanipulasi dalam deepfake berisi konten eksplisit selama tahun 2025. Angka-angka ini mencerminkan skala yang mengkhawatirkan dari eksploitasi digital terhadap anak di bawah umur, menunjukkan bagaimana alat kecerdasan buatan dapat disalahgunakan untuk tujuan kriminal. Penyalahgunaan virtual ini merupakan bentuk kekerasan yang meninggalkan bekas psikologis mendalam pada korban, meskipun gambarnya bersifat sintetis.

Grok dan Penyidikan Regulasi yang Sedang Berlangsung

Chatbot AI bernama Grok, yang dikembangkan oleh perusahaan pemilik jaringan X, menjadi pusat penyelidikan internasional setelah dituduh menghasilkan gambar seksual yang melibatkan anak di bawah umur. Menghadapi situasi ini, beberapa negara mengambil langkah drastis dengan menangguhkan teknologi tersebut di wilayah mereka dan mengaktifkan badan regulasi mereka. Otoritas terus melakukan penyelidikan untuk menentukan tanggung jawab dan menerapkan hukuman yang sesuai.

Jalan Menuju Perlindungan: Tuntutan UNICEF

UNICEF mendesak tidak hanya para pembuat undang-undang, tetapi juga industri teknologi untuk mengambil tindakan nyata. Organisasi ini menuntut agar pengembang AI menerapkan sistem keamanan yang kokoh dan melakukan penilaian ketat terhadap dampaknya terhadap hak-hak anak. Langkah-langkah ini dianggap penting untuk mencegah teknologi terus disalahgunakan oleh pelaku kejahatan. Perlindungan anak secara digital menjadi tantangan yang melampaui batas negara dan membutuhkan upaya kolaboratif antara sektor publik dan swasta.