Anthropic investigador de seguridad Nicolas Carlini, cuyas publicaciones han sido citadas 67,200 veces en Google Scholar, es uno de los investigadores más citados en este campo.

Recientemente dijo públicamente: Claude es un investigador de seguridad más talentoso que él.
Después de dirigir a Claude hacia Ghost (una plataforma de publicación con 50,000 estrellas en GitHub y que nunca ha tenido vulnerabilidades críticas en su historia) durante 90 minutos, Claude encontró una vulnerabilidad de inyección SQL que permite a cualquier persona, sin permisos, obtener la clave de administrador y tomar el control completo del backend.
Luego dirigió a Claude hacia el núcleo de Linux. Claude encontró una vulnerabilidad de desbordamiento de búfer. Una vulnerabilidad que ha estado oculta allí desde 2003, durante 23 años. Carlini dice que este tipo de vulnerabilidad, incluso para expertos en seguridad con experiencia, es extremadamente difícil de detectar mediante auditorías manuales.
En pruebas con contratos inteligentes, Claude identificó en un entorno simulado una vulnerabilidad explotable por aproximadamente 3.7 millones de dólares.
Carlini dice que, en estas tareas, él mismo no puede alcanzar el nivel de Claude.
Lo que más duele de esto no es que la IA haya encontrado vulnerabilidades, sino que: Carlini todavía está en su trabajo.