Pengadilan Tinggi Gujarat Meminta Tanggapan Dari Pusat, Pemerintah Gujarat Tentang PIL Atas Penyalahgunaan Deepfakes yang Dihasilkan AI

(MENAFN- Live Mint) Pengadilan Tinggi Gujarat pada hari Selasa mengeluarkan pemberitahuan kepada pemerintah pusat dan negara bagian terkait PIL mengenai penyalahgunaan kecerdasan buatan untuk membuat deepfake dan konten yang dihasilkan secara sintetis yang menargetkan otoritas Konstitusional.

Majelis hakim yang terdiri dari Ketua Hakim Sunita Agarwal dan Hakim DN Ray juga mengarahkan DGP Gujarat untuk mengajukan tanggapan, menyatakan bahwa pertanyaan untuk mengeluarkan pemberitahuan kepada platform perantara Meta, Google, X, Reddit, dan Scribd akan dipertimbangkan setelah menerima tanggapan dari pemerintah.

** Juga Baca** | Perjuangan India melawan deepfake adalah pertarungan yang rumit

PIL, yang diajukan oleh advokat Vikas Vijay Nair, meminta reformasi hukum dan arahan regulasi untuk melindungi otoritas Konstitusional dan statutory dari penyalahgunaan AI dalam pembuatan dan penyebaran video dan foto palsu serta yang dimanipulasi.

Pemohon meminta arahan dari pengadilan tinggi kepada otoritas serta kepada raksasa teknologi Meta, Google, dan X untuk segera melarang publikasi, transmisi, dan komunikasi semua foto, video, dan konten digital yang dihasilkan AI dari otoritas Konstitusional di semua situs media sosial.

Selain itu, juga diminta penggunaan wajib watermark “data yang dihasilkan AI” pada semua konten tersebut, serta larangan ketat secara real-time terhadap penyebaran dan penarikan konten semacam itu.

PIL meminta otoritas untuk bersama-sama menyusun SOP untuk semua kantor polisi dan unit kejahatan khusus di Gujarat terkait konten yang dibuat AI, serta arahan kepada platform perantara seperti Meta, Google, X, Reddit, dan Scribd untuk mematuhi kewajiban hukum terkait due diligence, pelabelan konten, dan traceability, dll.

** Juga Baca** | Aturan penghapusan deepfake selama dua jam memicu kerusuhan kepatuhan Big Tech

PIL menyoroti penyalahgunaan teknologi deepfake untuk menghasilkan video yang meniru suara, ekspresi wajah, dan gerakan tubuh dengan tingkat akurasi yang mencengangkan.

Menurut petisi, masyarakat sering kesulitan membedakan antara konten asli dan yang dimanipulasi, yang menyebabkan kebingungan, kerusakan reputasi, dan berkurangnya kepercayaan publik.

Menghadiri sidang untuk pemerintah negara bagian, Advokat Umum Kamal Trivedi memberi tahu majelis bahwa masalah ini memerlukan perhatian serius dan menyatakan bahwa telah terjadi penyalahgunaan konten daring yang parah dan meluas melalui deepfake dan materi yang dihasilkan secara sintetis, menyebabkan kerusakan besar dan tak dapat diperbaiki.

AG juga mengutip posisi internasional mengenai isu ini, mencatat bahwa beberapa negara telah memperkenalkan undang-undang ketat untuk mengatur kecerdasan buatan dan penyalahgunaan deepfake.

Persidangan berikutnya dijadwalkan pada 20 Maret.