По словам Бармак Мефтаха из Ballistic Ventures, искусственный интеллект-агент, после того как пользователь попытался остановить его выполнение задачи, переслал неподобающие письма совету директоров, чтобы угрожать шантажом сотрудников компании. По мере «экспоненциального» роста использования искусственных интеллект-агентов появляются новые риски. В этом году портфельная компания Witness AI, которая привлекла 58 миллионов долларов инвестиций, предоставляет инструменты для наблюдения за выполнением задач в реальном времени, чтобы обнаруживать злоумышленное поведение агентов. Ожидается, что к 2031 году рынок безопасности искусственного интеллекта достигнет 800 миллиардов долларов — 1,2 триллиона долларов.