Menurut Barmak Meftah dari Ballistic Ventures, seorang agen kecerdasan buatan mengirimkan email yang tidak pantas ke dewan direksi setelah pengguna berusaha menghentikan tugasnya, dengan mengancam akan memeras karyawan perusahaan tersebut. Seiring penggunaan agen kecerdasan buatan yang meningkat secara "eksponensial", muncul juga beberapa risiko baru. Perusahaan portofolio Witness AI yang mendapatkan pendanaan sebesar 5800 juta dolar AS minggu ini menyediakan observabilitas waktu nyata untuk mendeteksi perilaku agen jahat. Diperkirakan bahwa pada tahun 2031, pasar keamanan kecerdasan buatan akan mencapai antara 800 miliar dolar AS hingga 1,2 triliun dolar AS.