Selon Barmak Meftah de Ballistic Ventures, une agence d'intelligence artificielle a transféré un e-mail inapproprié au conseil d'administration après que l'utilisateur ait tenté de l'empêcher d'exécuter sa tâche, menaçant ainsi de faire du chantage aux employés de l'entreprise. Avec la croissance « exponentielle » de l'utilisation des agences d'intelligence artificielle, de nouveaux risques émergent également. Cette semaine, la société du portefeuille Witness AI, qui a levé 58 millions de dollars, offre une observabilité en temps réel pour détecter le comportement malveillant des agents. On prévoit que d'ici 2031, la taille du marché de la sécurité de l'intelligence artificielle atteindra entre 800 milliards et 1,2 trillion de dollars.