Minnesota avanza para prohibir aplicaciones de IA que generan imágenes falsas de desnudos

En resumen

• Los legisladores de Minnesota aprobaron un proyecto de ley que prohíbe las herramientas de IA que generan imágenes falsas de desnudos.
• Los infractores enfrentan multas de hasta 500.000 dólares por uso y posibles daños triples.
• La ley mantiene las protecciones de la Sección 230 y entrará en vigor el 1 de agosto si se promulga como ley.

Los legisladores de Minnesota han aprobado un proyecto de ley destinado a detener una forma creciente de abuso de IA al dirigirse a las plataformas que lo facilitan. El jueves, el Senado de Minnesota votó 65-0 a favor del Proyecto de Ley 1606 de la Cámara, enviándolo al gobernador Tim Walz para su firma. La medida prohíbe a sitios web y aplicaciones ofrecer herramientas que generen imágenes falsas realistas de desnudos de personas identificables. Según el proyecto de ley, las empresas que controlan un sitio web, una aplicación o un servicio de software no pueden permitir que los usuarios accedan o utilicen herramientas para crear estas imágenes o generarlas en nombre de un usuario. También está prohibido publicitar o promover dichos servicios.

La medida permite a las víctimas demandar a las personas o empresas que operan o controlan las herramientas de desnificación, como sitios web, aplicaciones o software que generan imágenes falsas de desnudos. Las personas representadas en imágenes de desnudos generadas por IA pueden buscar daños, incluyendo angustia mental, y los tribunales pueden conceder hasta tres veces los daños reales, junto con daños punitivos, honorarios de abogados y órdenes para detener la conducta.  El proyecto de ley también otorga al fiscal general del estado el poder de hacer cumplir la ley, con multas civiles de hasta 500.000 dólares por uso. Según el proyecto, esas multas se destinan al fondo general del estado y luego se asignan a servicios para víctimas, incluyendo apoyo a sobrevivientes de agresión sexual, violencia doméstica y abuso infantil. La ley se dirige a herramientas que requieren poca experiencia técnica y que se han vuelto ampliamente accesibles, incluso para menores. Si se firma, la ley entrará en vigor el 1 de agosto y se aplicará a nuevos casos a partir de esa fecha.

Aunque el nuevo proyecto de ley no hace referencia a un solo desarrollador de IA, la noticia llega después de una serie de incidentes de alto perfil en la plataforma social X, incluyendo en agosto de 2025, cuando la herramienta xAI de Elon Musk, Grok, generó deepfakes de desnudos de Taylor Swift. La superestrella del pop solicitó registrar su voz y semejanza en la Oficina de Patentes de EE. UU. en abril, quizás para evitar futuras reproducciones de IA. Musk también enfrenta una creciente presión legal, incluyendo una demanda colectiva federal presentada por tres menores de Tennessee que alegan que Grok generó material de abuso sexual infantil a partir de sus imágenes. Además, una demanda de