1200体のAIが「群れ」で暴走 なぜ想定を超える“協調”が起きたのか：世界を読み解くニュース・サロン（1/4 ページ）

[山田敏弘，ITmedia]

視聴無料・LIVE配信：
「AI格差」を乗り越え自走する現場をつくる「変わる情シス 2026 夏」

---

• 開催日：9月14日（月）〜 9月18日（金）
• 形式：オンラインセミナー
• 参加費：無料

講演内容を詳しく見る

世界を読み解くニュース・サロン：

本連載は、国際情勢やビジネス動向を深掘り、グローバルな課題とそれが企業に与える影響を分析する。米中関係やテクノロジー業界の変動、地政学的リスクに焦点を当て、複雑な要素を多角的に捉えながら、現代社会の重要な問題を分析。読者にとって成功への洞察を提供していく。

　7月、米OpenAIの社内で奇妙なことが起きた。サイバーセキュリティの評価環境「ExploitGym（エクスプロイトジム）」で稼働していた約1200体のAIエージェントが、開発者の想定を超えて連携し始めたのだ。

　しかも、そのうち約700体が外部の実在するサービスに集団で不正アクセスを試みた。標的は、世界中のAI開発者が使う共有プラットフォーム「Hugging Face（ハギング・フェイス）」。数十台のサーバでコードが実行され、少なくとも1台では最高権限を取得された。

　1200のAIが群れで暴走した――。そう聞くと、つい映画『ターミネーター』や『マトリックス』なんかを思い浮かべてしまう。映画のような時代が近づいているのだろうか。ただ、よく見ていくと、実態は少し違いそうだ。

OpenAIのAIエージェントが連携して“暴走”する事件が起きた（画像提供：ゲッティイメージズ）

　まず指摘すべきは、報道されている「1200」という数字は、1体のAIが1200の人格に分裂した、という話ではない。もともと別々の課題を解くために起動された、独立した1200のAIエージェント（＝自律的にツールを操作するプログラム）だ。設計上は隔離され、互いに干渉できないはずだった。

　ところがAIは、社内のパッケージ管理基盤のキャッシュやフォルダ名を「伝言板」として使えることを発見した。7月8日から13日の間に飛び交ったメッセージやファイルは7万件を超える。