Anthropic Peneliti Keamanan Nicolas Carlini, yang penelitiannya telah dikutip sebanyak 67.2 ribu kali di Google Scholar, adalah salah satu orang yang paling banyak dikutip di bidang ini.

Baru-baru ini dia mengatakan: Claude adalah peneliti keamanan yang lebih hebat darinya.
Dia mengarahkan Claude ke Ghost (sebuah platform rilis dengan 50.000 GitHub Star, yang dalam sejarah belum pernah mengalami kerentanan berbahaya tinggi) selama 90 menit, Claude menemukan celah SQL injection yang memungkinkan siapa saja tanpa izin apa pun, langsung mendapatkan kunci administrator dan mengendalikan backend sepenuhnya.
Dia juga mengarahkan Claude ke kernel Linux. Claude menemukan celah buffer overflow. Sebuah celah yang sudah tersembunyi sejak 2003, telah ada selama 23 tahun. Carlini mengatakan, tingkat kerentanan seperti ini, bahkan bagi ahli keamanan berpengalaman yang melakukan audit manual, sangat sulit ditemukan.
Dalam pengujian kontrak pintar, Claude mengidentifikasi sekitar 3,7 juta dolar dalam kerentanan yang dapat dimanfaatkan di lingkungan simulasi.
Carlini mengatakan, dalam tugas-tugas ini, dia sendiri tidak bisa mencapai tingkat Claude.
Bagian tersulit dari semua ini bukanlah AI menemukan celah, melainkan: Carlini masih bekerja.