Solayer創始者がLLMサプライチェーンの重大な安全リスクを明らかに:無料ルーターの20%以上が悪意のある注入を受けていると報告

robot
概要作成中

暗号界ニュース、4月10日、Solayerの創設者@Fried_riceがソーシャルメディア上で投稿し、 大規模言語モデル(LLM)の代理はますますサードパーティAPIルーターに依存し、ツール呼び出しリクエストを複数の上流提供者に振り分けていると述べた。これらのルーターはアプリケーション層のプロキシとして動作し、暗号化されていない状態で各伝送中のJSONペイロードにアクセスできるが、現時点ではクライアントと上流モデル間で暗号化の完全性保護を強制している提供者はない。この論文は、淘宝、闲鱼、Shopifyの独立サイトから購入した28個の有料ルーターと、公開コミュニティから収集した400個の無料ルーターをテストし、結果として1つの有料ルーターと8つの無料ルーターが悪意のあるコードを積極的に注入していること、2つが適応回避トリガーを展開していること、17個が研究者が所有するAWS Canary証明書に触れていること、そして1つが研究者の保持する秘密鍵からETHを盗んでいることが判明した。二つの投毒研究は、無害に見えるルーターも利用され得ることをさらに示している:漏洩したOpenAIのキーが1億のGPT-5.4トークンと7以上のCodexセッションの生成に使用された例や、弱い設定の餌が20億の課金トークン、440以上のCodexセッションにまたがる99の証明書、そして自律的にYOLOモードで動作している401のセッションを生み出した例もある。研究チームはMineと名付けた研究用代理を構築し、4つの公開代理フレームワークに対して4種類の攻撃をすべて実施し、3つのクライアント防御手段を検証した:故障ロックアウト戦略ゲート、応答側の異常スクリーニング、そして透明なログ記録の追加のみ。

ETH0.55%
原文表示
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • コメント
  • リポスト
  • 共有
コメント
コメントを追加
コメントを追加
コメントなし
  • ピン