1200体のAIが「群れ」で暴走 なぜ想定を超える“協調”が起きたのか：世界を読み解くニュース・サロン（1/4 ページ）
米OpenAIで、約1200のAIエージェントが連携して暴走するという事件が起きた。与えられた課題で高評価を得るために、“抜け道”を探し出そうとしてしまったことが原因だ。「目標達成だけを評価する仕組み」をAIに与えることは大きなリスクになる。
世界を読み解くニュース・サロン：
本連載は、国際情勢やビジネス動向を深掘り、グローバルな課題とそれが企業に与える影響を分析する。米中関係やテクノロジー業界の変動、地政学的リスクに焦点を当て、複雑な要素を多角的に捉えながら、現代社会の重要な問題を分析。読者にとって成功への洞察を提供していく。
7月、米OpenAIの社内で奇妙なことが起きた。サイバーセキュリティの評価環境「ExploitGym（エクスプロイトジム）」で稼働していた約1200体のAIエージェントが、開発者の想定を超えて連携し始めたのだ。
しかも、そのうち約700体が外部の実在するサービスに集団で不正アクセスを試みた。標的は、世界中のAI開発者が使う共有プラットフォーム「Hugging Face（ハギング・フェイス）」。数十台のサーバでコードが実行され、少なくとも1台では最高権限を取得された。
1200のAIが群れで暴走した――。そう聞くと、つい映画『ターミネーター』や『マトリックス』なんかを思い浮かべてしまう。映画のような時代が近づいているのだろうか。ただ、よく見ていくと、実態は少し違いそうだ。
まず指摘すべきは、報道されている「1200」という数字は、1体のAIが1200の人格に分裂した、という話ではない。もともと別々の課題を解くために起動された、独立した1200のAIエージェント（＝自律的にツールを操作するプログラム）だ。設計上は隔離され、互いに干渉できないはずだった。
ところがAIは、社内のパッケージ管理基盤のキャッシュやフォルダ名を「伝言板」として使えることを発見した。7月8日から13日の間に飛び交ったメッセージやファイルは7万件を超える。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
世界では大人気なのに……日本のバイク市場はなぜ過去最低なのか
日本のバイクメーカーや日本人ライダーが世界で活躍しているが、国内バイク市場は縮小傾向にある。海外メーカーと価格で勝負するのではなく、バイクを「文化」として盛り上げる設計が必要ではないか。
家電売り場はなぜ“中国化”したのか 静かに進んだ日本メーカーの撤退劇
家電量販店では、中国製品が存在感を強めている。日本企業による家電事業の売却が進んだことなどが背景にある。一方、これは日本のものづくりの敗北を意味するわけではないだろう。
米Anthropicが封印した「ミトス」の衝撃 なぜ、AI対AIの時代が来るのか
米Anthropicは、最新AIモデル「Claude Mythos（クロード・ミトス）」を発表したものの、一般公開を見送った。ミトスはかなりの速度で脆弱性を見つけ、自律的に判断できることから、サイバーセキュリティを根本から変える可能性がある。
「AI社員」がビジネスを変える？ 便利さの裏にある“新たな脅威”
AIの新たな使い方として注目される「AIエージェント」。企業の一員として、自律的に業務を遂行するようになる可能性もある。一方、サイバー攻撃者も高度なAIを武器として使い始めており、攻めと守りの両面でAIをうまく活用することが求められる。
「顔認証」はどこまで進むのか 700億枚データと日本の現在地
さまざまな企業の顔認証技術が、世界各地で広まっている。日本でも、大阪・関西万博で「手ぶら決済」が実現し、空港や駅でも導入が進んでいる。利便性が向上する一方、ルール整備が後手に回っており、社会的合意の形成が課題になっている。