El Tribunal Superior de Gujarat solicita respuestas del Gobierno Central y del Gobierno de Gujarat sobre una PIL por mal uso de deepfakes generados por IA

(MENAFN- Live Mint) La Corte Suprema de Gujarat emitió el martes avisos a los gobiernos central y estatal sobre una PIL relacionada con el uso indebido de inteligencia artificial para crear deepfakes y contenido generado sintéticamente dirigido a autoridades constitucionales.

Una sala de división de la jueza en jefe Sunita Agarwal y el juez DN Ray también ordenó al DGP de Gujarat presentar una respuesta, indicando que las preguntas para emitir avisos a plataformas intermediarias como Meta, Google, X, Reddit y Scribd serán consideradas después de recibir respuestas de los gobiernos.

** También leer** | La lucha de India contra los deepfakes es una batalla complicada

La PIL, presentada por el abogado Vikas Vijay Nair, solicitó reformas legales y directrices regulatorias para proteger a las autoridades constitucionales y estatutarias contra el uso indebido de la IA en la creación y circulación de videos y fotografías falsas y manipuladas.

El solicitante pidió a la corte que emita instrucciones a las autoridades y a las grandes tecnológicas Meta, Google y X para prohibir de inmediato la publicación, transmisión y comunicación de todas las fotografías, videos y contenidos digitales generados por IA de cualquier autoridad constitucional en todas las redes sociales.

También solicitó el uso obligatorio de marca de agua de “datos generados por IA” en todo ese contenido, y una prohibición estricta en tiempo real de su circulación y retirada.

La PIL pidió a las autoridades que elaboren conjuntamente procedimientos operativos estándar (SOPs) para todas las estaciones de policía y unidades especializadas en delitos en Gujarat para contenido creado por IA, así como instrucciones a plataformas intermediarias como Meta, Google, X, Reddit y Scribd para cumplir estrictamente con las obligaciones legales relacionadas con la diligencia debida, etiquetado de contenido y trazabilidad, entre otras.

** También leer** | La regla de eliminación de deepfakes en dos horas genera controversia en las grandes tecnológicas

La PIL destacó el uso indebido de la tecnología deepfake para generar videos que imitan voces reales, expresiones faciales y movimientos corporales con sorprendente precisión.

Según la petición, el público a menudo tiene dificultades para distinguir entre contenido genuino y manipulado, lo que resulta en confusión, daño a la reputación y erosión de la confianza pública.

El abogado general Kamal Trivedi, en representación del gobierno estatal, informó a la sala que el tema merece una consideración seria y afirmó que ha habido un uso terrible y generalizado de contenido en línea mediante deepfakes y material generado sintéticamente, causando daños extensos e irreparables.

El AG también citó la posición internacional sobre el tema, señalando que varios países han introducido leyes estrictas para regular la inteligencia artificial y el uso indebido de deepfakes.

El próximo hearing será el 20 de marzo.

MENAFN24022026007365015876ID1110781643