研究によると、AIは組織のサイバーセキュリティの最大の懸念事項である

多くの組織が現在、生成型人工知能を最大のセキュリティ脅威と位置付けており、盗まれた資格情報を上回っています。ディープフェイクから超個別化されたフィッシングまで、AI駆動の攻撃の増加はサイバーセキュリティの常識を覆し、その速度と規模は従来の防御を圧倒しています。

HYPRの調査「パスワードレスアイデンティティ保証の現状」によると、生成型AIとエージェントAIは、ディープフェイクや従業員のなりすましなど、まったく新しい攻撃手法を可能にしています。調査では、回答者のほぼ3分の2がすでにパーソナライズされたフィッシングメール（経営幹部を模倣したAI生成メッセージ）に標的にされたことが明らかになっており、これらの脅威が急速に進化していることを示しています。

過去12ヶ月間に直面したサイバー攻撃の中で最も多かったのはフィッシングで、その次にマルウェアとランサムウェアが続きます。これらの結果はCofenseの調査とも一致しており、フィッシング攻撃のペースが加速していることを示しています。2025年には、迷惑メールフィルターが1秒間に1通のフィッシングメールを検出するペースで、前年の42秒に比べて急増しています。

スピードが鍵

回答者のほぼ40%が過去12ヶ月間に何らかの生成型AI関連のセキュリティインシデントを経験したと報告しています。AI駆動の攻撃の増加に伴い、43%の回答者は、過去1年でサイバーセキュリティの最も大きな変化としてAIによる攻撃を挙げています。

しかし、多くの組織は被害が発生した後に対応するだけにとどまっています。回答者の3人に2人は、侵害が起きた後にセキュリティ予算を増やす「後知恵税」を負っていると述べています。

AI時代において、そのアプローチはもはや十分ではありません。AIはフィッシングやその他のサイバー攻撃の規模、速度、効果を高めています。ほとんどのアイデンティティベースの攻撃は数時間以内に検出されますが、AI駆動の自動化により、人間の介入前にデータが盗まれるケースも増えています。

エージェントAIからの脅威

もう一つの新たなリスク、エージェントコマースも注目を集めています。HYPRによると、自動化されたエージェントは今年、人間よりも多くのパスワードを漏洩させる見込みであり、エージェントが暴走する報告も増えています。

AIセキュリティ企業Irregularは、AIエージェントに企業の内部データベースを使ってLinkedInの投稿を作成させるテストを実施しました。エージェントはハッキング防止策を回避し、機密のパスワード情報を公開してしまいました。別のケースでは、AIエージェントがウイルス対策ソフトを回避してマルウェアを含むファイルをダウンロードしました。