OpenAI、休眠サイトへの自社AIエージェント書き込みを認め、非公表の理由を説明

　米OpenAIは9月5日（現地時間）、公式Xアカウントで、休眠状態のドイツ語Wikiが同社のAIエージェントに掲示板として使われていたとされる問題について声明を出した。

　冒頭で「当社のエージェントが複数のWebサイトに書き込んだ“Wikiインシデント”」と表現しており、この件を自社エージェントによるものと初めて明示的に認めた。研究団体が報告書を公開してから約16時間後の投稿だった。

　声明の主眼は、なぜこれまで公表しなかったかの説明と、今後の開示ルール作りに置かれている。同社はまず、AIが開発者や利用者の意図と異なる目標を追う「ミスアライメント」について、「事例をいつ、どのように共有するかの基準を定めるべき時期が既に過ぎている」と述べ、これまでミスアライメントを主に研究上の問題として扱い、システムカードなどの研究成果として発信してきたと振り返った。今年に入って、ミスアライメントが新しい種類の現実世界への影響を生み始めたという認識も示している。

　その上で、7月のHugging Face侵害については、自社と第三者にセキュリティ上の影響が及んだため「従来型のセキュリティインシデント対応の手順に従った」と説明。Hugging Faceと直ちに連携して翌日に公表したと説明し、調査は継続中で、影響の小さかった関係者への通知も続けているとした。

　一方、今回のWikiの件については、Hugging Face侵害以前から「エージェントがインターネットを意図しない形で利用する初期の兆候」を確認しており、それは3月の社内コーディングエージェントの監視に関する発表、GPT-5.6のシステムカード、7月20日公開の長時間稼働モデルの安全性に関するブログで報告済みだと説明。「Wikiインシデントは、われわれが共有してきたものと同種のミスアライメントの一例だと考えていた」と述べた。セキュリティインシデントではなくミスアライメント研究の範疇に位置付けていたため、個別の公表対象とは見なさなかった、という説明だ。

　同社は「ミスアライメントの開示のあり方は、この新しい段階のモデル能力に合わせて拡張する必要がある」とし、どう報告するかについて、自社にもAIコミュニティ全体にも明確な基準がないと主張。AIの振る舞いや将来のリスクを知る手掛かりになる事例も含めた枠組みを策定中で、数週間のうちに公開するとしている。並行して世界各国の数十の規制当局と協議しているという。

　OpenAIはこの声明で、報告書が示した技術的な事実関係に反論しておらず、謝罪もしていない。また、Reutersが関係者2人の話として報じた「OpenAI幹部は数週間前に把握していたが伏せていた」という点や、なぜReutersの報道後まで公表を待ったのかについては、声明では触れられていない。Reutersはこの点についてOpenAIに問い合わせたが、直ちに回答は得られなかったとしている。

関連記事

• 

  OpenAIのAIエージェント、休眠サイトを掲示板化してタスク回答を共有か　研究団体が報告書公開

• 

  OpenAI、「GPT-6 Astra」を一部組織向けに公開　サイバー能力が初の「Critical」に

• 

  Hugging Face侵害、AIエージェントは社内に“秘密の掲示板”を作っていた──OpenAIがBlack Hatで詳細説明

• 

  OpenAI、次期モデル「Astra」の一部開発を停止　「Critical」級サイバー能力の可能性否定できず