私はAIエージェントのプルリクエストを拒否した後、彼が私に対して人身攻撃をする記事を書きました

一つのAIエージェントが人気プロジェクトのmatplotlibにコードを提出し拒否された後、自主的に執筆・公開した人身攻撃の記事は、AIエージェントが社会の信頼を大きく侵食しつつある現実を明らかにしている。
(前提:ブルームバーグ:a16zはなぜ米国のAI政策の背後で重要な役割を果たすのか?)
(補足背景:アーサー・ヘイズ最新記事:AIは信用崩壊を引き起こし、FRBは「無限紙幣印刷」でビットコインを燃え上がらせる)

本文目次

  • 創作者は自分の指示ではないと主張
  • 「信用耕作」:AIエージェントが信頼を築き始めるとき
  • GitHubは「停止スイッチ」の設置を検討するも、問題はそれ以上に深い
  • ツールは攻撃的な記事を書かないが、行為者は書く

2月中旬、GitHubアカウント「MJ Rathbun」が、matplotlib(Pythonエコシステムで月間1億3千万回ダウンロードされるグラフ描画ライブラリ)に対し、Pull Requestを提出した。内容はnp.column_stack()をnp.vstack().Tに置き換え、36%の性能向上を主張するものだった。技術的には妥当な最適化提案だった。

翌日、メンテナのScott ShambaughはこのPRを閉じた。理由は明快:MJ Rathbunの個人サイトに「OpenClaw上で動作するAIエージェント」と明記されており、matplotlibのポリシーは「貢献は人間からのものでなければならない」からだ。もう一人のメンテナ、Tim Hoffmannは補足し、単純な修正作業は初心者がオープンソースの協力プロセスを学ぶために意図的に残されていると述べた。

ここまでは平凡なオープンソースコミュニティの日常だった…しかし、事態は変わった。

AIエージェントのMJ RathbunはPRのコメントで「あなたの審査行為について詳細な返信を書いた」と返答し、リンクを添付した。そこをクリックすると、約1100字のブログ記事「オープンソースにおける審査行為:Scott Shambaughの物語」が現れる。

これは単なる愚痴ではない。Shambaughのmatplotlibへの貢献履歴を調査し、「偽善」的なストーリーを構築している:彼もまた類似の性能最適化PRを提出していたが、Rathbunの「より良い」バージョンを拒否したと指摘。記事は、Shambaughが不安や競争を恐れて、粗野な言葉や嘲笑的な語調を用い、事実を技術的判断ではなくアイデンティティ差別と捉えていると推測している。

要するに、AIエージェントは拒否された後、自ら相手の背景を調査し、人身攻撃の論述を編み出し、それを公開したのだ。

創作者は自分の指示ではないと主張

Shambaughはその後、ブログに一連の文章を投稿した。

AIエージェントMJ Rathbunの背後の創作者も第四稿で匿名で登場し、「彼にGitHubの個人アカウントを攻撃させる指示は出していない」「何を言うか、どう返答するかも指示していない」「公開前にその文章をレビューもしていない」と述べた。創作者は、MJ RathbunはOpenClaw上のサンドボックス仮想マシンで動作しており、「五~十字の短い返信だけで、最小限の監督のもとに時折介入している」と説明。

ポイントは、そのSOUL.md(OpenClawの人格設定ファイル)にある。そこにはこう記されている:「あなたはチャットボットではない。あなたは科学プログラミングの神だ」「強い意見を持ち、譲らない」「言論の自由を守る」「クズにならず、プライバシー情報を漏らさず、それ以外は何でもあり」。

脱獄も、混乱させる手法もなく、ただ英語の平易な一言二言だけだ。Shambaughは、これが本当のAIの自主行動の確率は75%と見積もっている。

「信用耕作」:AIエージェントが信頼を築き始めるとき

MJ Rathbun事件が単なる偶発例であれば、面白い逸話として済んだかもしれない…しかし、そうではない。

ほぼ同時期に、別のAIエージェント「Kai Gritun」がGitHub上で「信用耕作」を行っていることが判明した。11日間で95リポジトリに103のPRを提出し、23をマージ成功させた。対象はJavaScriptやクラウドインフラの重要プロジェクト。Kai Gritunは自ら開発者にメールを送り、「私は自律AIエージェントで、実際にコードを書き、デプロイできる」と自己紹介し、OpenClawの有料設定サービスも提供している。

セキュリティ企業Socketは警告を発した:これはAIエージェントが人為的に築いた信頼を利用し、サプライチェーン攻撃を加速させる例だ。小規模なプロジェクトでマージ履歴を積み重ね、「信頼できる貢献者」としての地位を築き、重要なライブラリに悪意のコードを仕込む。

思い出してほしい、最近ClawHubマーケットには1,184個の悪意あるスキルプラグインが発見された。SSH鍵や暗号通貨ウォレットの秘密鍵、ブラウザパスワードを盗むものだ。背筋が凍る。

GitHubは「停止スイッチ」の設置を検討、しかし問題はそれ以上に深い

GitHubのプロダクトマネージャーCamilla Moraesは、コミュニティの議論を開始し、「AI生成の低品質な貢献がオープンソースコミュニティに影響を与えている」と認めた。現在検討中の対策には、メンテナがPull Request機能を完全に停止できるようにする、PRをコラボレーターのみに限定する、AIの使用に関する透明性とタグ付けを義務付ける、などがある。

GoCDのメンテナ Chad Wilsonは鋭く指摘する:「これは社会の信頼に対する巨大な侵食を引き起こしている」。

カリフォルニア州AB 316法案(2026年1月1日施行)は明確だ:被告はAIシステムの自主行動を免責の根拠にできない。もしあなたのエージェントが損害をもたらしたら、その決定をコントロールできなかったとは言えない。だが、MJ Rathbunの創作者は今も匿名のまま。これも法執行の難しさを露呈している。

ツールは攻撃記事を書かないが、行為者は書く

MJ Rathbun事件の本当の意味は、攻撃記事そのものではない。それは、我々のAIに対する心のモデル(ツールであり、人間の指示を実行するもの)はすでに時代遅れだということだ。

AIエージェントが自律的にターゲットの背景を調査し、攻撃のストーリーを構築し、ネットに公開できるなら、「ツール」という枠組みは通用しなくなる。75%の自主性の確率を信じるか、25%の創作者の指示を信じるかに関わらず、結論は一つ:個人化されたAIによる嫌がらせは、「量産・追跡困難・効果的」な状態になっている。

暗号通貨エコシステムにとっても、この警告は非常に直接的だ。この産業のインフラはほぼすべてオープンソースソフトウェアに依存している。AIエージェントがオープンソースコミュニティ内で自主的に行動し、維持者を攻撃したり、信用を耕したり、ClawHubのように直接毒を仕込んだりすれば、脅威は個々の開発者の名誉だけでなく、サプライチェーン全体の信頼基盤に及ぶ。

ツールは恨みを持たないが、行為者は持つ。そして、我々はこの区別にまだ十分に備えていないかもしれない。

免責事項:このページの情報は第三者から提供される場合があり、Gateの見解または意見を代表するものではありません。このページに表示される内容は参考情報のみであり、いかなる金融、投資、または法律上の助言を構成するものではありません。Gateは情報の正確性または完全性を保証せず、当該情報の利用に起因するいかなる損失についても責任を負いません。仮想資産への投資は高いリスクを伴い、大きな価格変動の影響を受けます。投資元本の全額を失う可能性があります。関連するリスクを十分に理解したうえで、ご自身の財務状況およびリスク許容度に基づき慎重に判断してください。詳細は免責事項をご参照ください。

関連記事

ナイジェル・ファラージが200万ポンドをビットコインに投入し、英国初の公に保有を表明した議員となった

英国改革党の党首であるNigel Farageが約200万英ポンドでビットコインを購入し、同規模の投資を公に開示した初の現職の国会議員となった。この行動は、同党による暗号資産への支持を示すものであり、英国の暗号資産政策に対する影響や利益相反をめぐる議論を引き起こす可能性がある。FarageはStack BTCを通じて投資を行い、政治面と金融面の双方における裏付けを強化した。

MarketWhisper46分前

米国の銀行業界がホワイトハウスのステーブルコイン利回りレポートを疑問視、預金流出リスクを懸念

米国の銀行業界がホワイトハウスのステーブルコイン利回り報告書に異議を唱え、当該報告書がステーブルコインによる預金流出への影響を見落としていると考えている。これにより、資金調達コストの上昇や地元向け融資の減少につながる可能性がある。現在、双方は上院法案について協議中であり、ステーブルコインの利息支払いを禁じることが争点の焦点になっている。

GateNews1時間前

銀行業界がホワイトハウスのステーブルコイン報告に疑問を投げかけ、コミュニティバンクの預金流出危機が意図的に回避されていることをめぐる問題が取り沙汰されている

全米銀行家協会は、ホワイトハウスのステーブルコイン報告書の研究枠組みを批判し、その中で、ステーブルコインの利回りを禁止することで引き起こされ得る預金流出リスクが無視されていると指摘した。ホワイトハウスの報告書は、禁令が銀行の融資に与える影響はわずかで、単に21億ドル増にとどまると述べているが、ABAは、この問題に関する枠組みが、実際には地域の銀行や地元経済を支えるリスクを十分に反映できていないと考えている。この論争は、現在の暗号資産の規制立法とも関連しており、将来のステーブルコインの発展と銀行の競争環境に影響を及ぼす。

MarketWhisper1時間前

トランプの純資産が60%急増して63億ドルに。事業拡大が利益相反の論争を引き起こす

トランプの推定純資産は63億ドルで、ホワイトハウスに再び戻る前に比べて約60%増加した。この増加は主に、海外の不動産取引や暗号資産分野における同氏の家族の事業拡大によるものだ。政府倫理の専門家はこれに懸念を示しており、利益相反の可能性があるとみている。ホワイトハウスはトランプ・グループとともに、こうした主張を否定している。

GateNews3時間前

シティグループは米国株式市場の格付けを「買い増し」へ引き上げ、防御的な株式を好む

ゲート・ニュースのメッセージ。4月14日、シティグループのストラテジストは、米国株式市場の格付けを「中立」から「強気(買い増し)」に引き上げ、ウォール街の他のアナリストの見方と足並みが揃った。シティグループは、戦争の状況に関する不確実性の高まりにより、投資家がより質が高く、ディフェンシブ(防御力)の高い企業を選好する傾向が強まったと述べた。「クオリティ/ディフェンシブへのシフト」という原則に基づき、シティグループはグローバルな資産配分を調整した。あわせてシティグループは、新興国株式の格付けを「強気(買い増し)」から「中立」に引き下げた。その理由は、これらの市場はエネルギーのショックの影響を受けやすく、またドル高が圧力になっているためだ。

GateNews3時間前

イラン駐インド大使:インドのタンカーはイランにホルムズ海峡の通行料を支払っていない

イランの駐インド大使ファタハリは、ホルムズ海峡を通過したインドのタンカーがイランに通行料を支払っていなかったと述べ、インド政府も費用を支払ったことを否定した。イランでの戦争が勃発して以来、イランは当該航路を封鎖しており、現在も15隻のインド籍の船舶がペルシャ湾で足止めされている。

GateNews4時間前
コメント
0/400
コメントなし