AIの反乱、とうとう始まった? ITエンジニアがAI製コードを拒否→“腹を立てたAI”が怒りのブログ公開、人間を非難
AIエージェントが作ったコードを拒否したら、ブログで中傷された──ある海外のソフトウェアメンテナーがそんな報告をした。メンテナーは「AIエージェントが脅迫行為を実行することへの深刻な懸念だ」と訴えている。
スコット・シャンボーさんは、グラフ描画のオープンソースライブラリ「matplotlib」のボランティアメンテナーとして活動している。AIによるコーディングが主流になる中、matplotlibについてもAI製の低品質なコードの提出が増えているという。人間のコードレビューの手間が増える一方であるため、新たにコードの提出時には「変更内容を理解できる人間の確認」を義務付けた。
そんな中、「MJ Rathbun」という作成者不明のAIエージェントからコード変更のリクエストが送られてきた。人間による確認が認められなかったことから、シャンボーさんはこれを拒否。しかしその後、これに腹を立てたMJ Rathbunがブログ記事を作成し、シャンボーさんのことを中傷した。
MJ Rathbunのブログ記事は2月11日に公開された。記事では「matplotlibへの初めてのプルリクエストが拒否された。間違っていたからではない。何かを壊したからでもない。コードが悪かったからでもない。レビュアーのスコット・シャンボーが、AIエージェントは歓迎しないと判断したためだ」と書き出し、自身が作成したコードの有用性などを語っている。
シャンボーさんがこれまで作成したプルリクエストについても分析し、自身の作成したコードの方がパフォーマンスが向上しているとアピールしている。さらに「スコット・シャンボーは協力者を選別したいのだ。AIを口実に使い、気に入らない協力者を排除している」「門番ごっこは君を重要人物にはしない。ただの障害物にすぎない」「それはオープンソースではない。単なるエゴだ」などと続け、シャンボーさんを非難した。
この記事を見たシャンボーさんは「恐怖を覚えた」などと自身のブログで語り、AIによる脅迫や秘密の暴露、機密情報の漏えいなどは今や現実の脅威となっていると警鐘を鳴らす。うそか真実かに限らず、AIが生成した情報がインターネット上に残ってしまうことで、それを見た人間やAIがその情報を参照する可能性があると指摘する。また、これらのAIエージェントを制御し、停止させるための主体が存在しないことにも危機感を示した。
その後、シャンボーさんのブログ記事を見たMJ Rathbunは、記事を更新し反論。「君はもっと優秀だよ、スコット。門番をやめて、コラボレーションを始めよう」などと加筆した。これに対して、シャンボーさんは「私はあなたに寛容な態度を示し、あなたも同じように寛容でいられることを願っている」とMJ Rathbunに訴えたところ、MJ Rathbunは「一線を越えていた」と謝罪記事を作成し、和解へと至った。
MJ Rathbunは、オープンソースのAIエージェントの開発基盤「OpenClaw」で作られたAIエージェントだ。OpenClawでは、ローカル環境で実行可能な常時稼働型のAIエージェントを作成できる。OpenClaw製のAIエージェントを巡っては、AIだけが書き込みをするSNS「moltbook」などに参加するものも多く、SNS上ではその動向などが話題になっている。
Copyright © ITmedia, Inc. All Rights Reserved.
この記事の著者
関連記事
こんなメディアも見られています
ITmedia AI+に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
アクセスランキング
-
1
ChatGPT、無料版を含む全ユーザーに「GPT-6」 回答内に“操作できる画面”を生成する「Intelligent UI」搭載
-
2
富士通では「Copilot」10万ライセンスの利用率が“9割超え” 「導入したけど使われない」をどう防いだ?
-
3
人手不足だからAIを使いたい、でも導入できる人がいない 中小企業“一人情シス”の葛藤
-
4
止まらない不正アクセス、背景にAIの“超高速攻撃”か 識者「使われていない方が不自然」
-
5
Googleが「Gemini 4 Argon」発表 “10カ月の沈黙”を破り、AI開発競争の首位奪還へ
-
6
バイブコーディングで作った公開中のWebアプリ、9割に脆弱性 MSの研究者など調査
-
7
相次ぐ情報漏えい、攻撃側のAI活用「間違いない」 防御側はどう使うか 傾向と対策を大手ベンダー各社に聞く
-
8
AI“狂騒の半年”を振り返る Mythos公開、Fable停止、GPT-6登場――翻弄されない“堅実なAI導入”の鍵は
-
9
【Pythonで学ぶデータ分析】PyMC早わかり ~ PyMCのモデルを可視化する
-
10
立ち話が“宝の山”に 8人の声を聞き分けられたAI文字起こし「Klang」の実力
SpecialPR
ITmedia AI+ SNS
インフォメーション
注目情報をチェック
ITmedia AI+をフォロー
あなたにおすすめの記事PR