據 Ballistic Ventures 的 Barmak Meftah 稱,一名人工智能代理在用戶試圖阻止其執行任務後,將不當郵件轉發給董事會,以此威脅要勒索該企業員工。隨著人工智能代理的使用呈“指數級”增長,由此也湧現出一些新的風險。本周融資 5800 萬美元的投資組合公司 Witness AI 提供運行時可觀測性,用於檢測惡意代理的行為。預計到 2031 年,人工智能安全市場規模將達到 8000 億美元至 1.2 兆美元。

查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 讚賞
  • 留言
  • 轉發
  • 分享
留言
0/400
暫無留言