La empresa de inteligencia artificial Anthropic busca un experto en armas químicas para evitar su “uso indebido”

Hace 23 minutos

CompartirGuardar

Editora de Tecnología Zoe Kleinman

CompartirGuardar

Getty Images

La empresa estadounidense de inteligencia artificial (IA) Anthropic busca contratar a un experto en armas químicas y explosivos de alto rendimiento para intentar prevenir el “uso catastrófico indebido” de su software.

En otras palabras, teme que sus herramientas de IA puedan indicar a alguien cómo fabricar armas químicas o radiactivas, y quiere un experto que garantice que sus medidas de protección sean lo suficientemente robustas.

En la publicación de reclutamiento en LinkedIn, la empresa indica que los candidatos deben tener un mínimo de cinco años de experiencia en “defensa contra armas químicas y/o explosivos” así como conocimientos sobre “dispositivos de dispersión radiológica” — también conocidos como bombas sucias.

La empresa informó a la BBC que el puesto es similar a otros trabajos en áreas sensibles que ya ha creado.

Anthropic no es la única empresa de IA que adopta esta estrategia.

Una posición similar ha sido anunciada por OpenAI, desarrollador de ChatGPT. En su sitio web de carreras, ofrece una vacante para un investigador en “riesgos biológicos y químicos”, con un salario de hasta 455,000 dólares (£335,000), casi el doble de lo que ofrece Anthropic.

Pero algunos expertos están alarmados por los riesgos de este enfoque, advirtiendo que proporciona a las herramientas de IA información sobre armas — incluso si se les ha instruido para no usarla.

“¿Es alguna vez seguro usar sistemas de IA para manejar información sensible sobre químicos y explosivos, incluyendo bombas sucias y otras armas radiológicas?” dijo la Dra. Stephanie Hare, investigadora tecnológica y copresentadora del programa de televisión AI Decoded de la BBC.

“No existe ningún tratado internacional u otra regulación para este tipo de trabajo y el uso de IA con estas armas. Todo esto sucede a escondidas.”

La industria de la IA ha advertido continuamente sobre las amenazas existenciales potenciales que plantea su tecnología, pero no ha habido intentos de frenar su avance.

El tema ha cobrado urgencia a medida que el gobierno de EE. UU. llama a las empresas de IA mientras lanza guerras en Irán y operaciones militares en Venezuela.

LinkedIn

El anuncio de trabajo de la empresa estadounidense de IA Anthropic busca un experto en armas químicas y explosivos de alto rendimiento para unirse a su equipo de políticas

Anthropic está tomando acciones legales contra el Departamento de Defensa de EE. UU., que lo calificó como un riesgo en la cadena de suministro cuando la empresa insistió en que sus sistemas no deben ser utilizados en armas completamente autónomas ni en la vigilancia masiva de estadounidenses.

El cofundador de Anthropic, Dario Amodei, escribió en febrero que no creía que la tecnología fuera lo suficientemente buena todavía y que no debería usarse para estos fines.

La Casa Blanca afirmó que el ejército de EE. UU. no estará gobernado por empresas tecnológicas.

La etiqueta de riesgo coloca a la empresa estadounidense en la misma situación que la firma china de telecomunicaciones Huawei, que fue incluida en listas negras por preocupaciones de seguridad nacional diferentes.

OpenAI dijo estar de acuerdo con la postura de Anthropic, pero luego negoció su propio contrato con el gobierno de EE. UU., que aún no ha comenzado.

El asistente de IA de Anthropic, llamado Claude, aún no ha sido eliminado y actualmente sigue integrado en sistemas proporcionados por Palantir y desplegados por EE. UU. en la guerra entre EE. UU., Israel e Irán.

Las grandes tecnológicas apoyan a Anthropic en su lucha contra la administración Trump

Anthropic demanda al gobierno de EE. UU. por considerarlo un riesgo

Líder en seguridad de IA dice que “el mundo está en peligro” y renuncia para estudiar poesía

Suscríbete a nuestro boletín Tech Decoded para seguir las principales historias y tendencias tecnológicas del mundo. ¿Fuera del Reino Unido? Suscríbete aquí.

Inteligencia artificial

Militar