OpenAI、安全性研究者3人を解雇　本人らは「安全性を優先したため」と主張、同社は「機密情報の扱いに関する規定違反」と説明

　米OpenAIで安全性やアライメントの研究に携わっていたミキタ・バレスニ氏、ジャスミン・ワン氏、トメク・コルバク氏の3人が10月8日（日本時間）、前週に同社を解雇されたとXで公表し、経営陣に宛てた書簡を公開した。3人は解雇の理由が書面で示されていないとして、具体的な説明を求めている。

　これに対しOpenAIは同日、「our research leaders」名義でX上に声明を出し、3人が機密情報の取り扱いに関する規定に違反したことが社内調査で判明したと説明した。安全性に関する懸念を表明したことが理由ではないとしている。

　書簡は、OpenAIの安全・セキュリティ委員会、安全諮問グループ（SAG）、ミッション諮問評議会に宛てて送られた。解雇の進め方や、それを巡る社内外への説明が、残る従業員を萎縮させているとの懸念を示している。3人はいずれも、AIの思考過程（Chain of Thought）を人間が監視できる状態を保つ監視可能性（monitorability）の研究などに関わっていた。コルバク氏とバレスニ氏は、7月に起きたHugging Face侵害事件の調査にも参加しており、コルバク氏は外部調査を担当した米METRとの技術窓口を務めていたという。

　バレスニ氏はXで、退職時の面談で、外部の安全性研究組織と話しすぎていたため会社として信頼できなくなったと告げられ、知的財産を漏えいしたかのような示唆を受けたと説明した。同氏は知的財産を共有したことはなく、業務は上司や研究部門の幹部、取締役会と調整して進めていたと主張している。3人は、AIの推論を監視できる状態を業界全体で維持するための取り組みを社内で推進しており、この仕事には第三者との日常的なやりとりが欠かせないとしている。

　ワン氏は、解雇理由として示されたのは「幹部のメールにアクセスしたこと」の1点だけだったと投稿した。同氏によると、このアクセス権は採用業務のために会社から委任されたもので、不要になった後にIT部門へ削除を依頼したが対応されなかった。誤って機密性の高いメールを開いた際には数分以内に当該幹部へ報告し、IT部門にも改めて削除を求めたという。同氏は、ほかにも理由があるのであれば書面で示すよう求めている。

　書簡ではこのほか、米The Informationが報じた、監視しにくい新アーキテクチャに関する記事について、自分たちは情報源ではないと述べている。社内で臆測が広がっているとし、取締役会レベルの文書を共有したとする疑いについても、事実関係を1度も確認されず、反論の機会がなかったとした。

　3人は書簡で、外部の安全性監査機関を社内に受け入れるという約束を守ること、フロンティアモデルの監視可能性を維持すること、安全性研究者と外部組織の開かれた対話を支える文化を守ることを求めた。

　サム・アルトマンCEOは9月12日、米Anthropicのダリオ・アモデイCEOに同調する形で、独立した評価機関に従業員と同等のアクセスを認める考えをXで示している。バレスニ氏は、今回の解雇がMETRとの関係を断つ口実に使われることへの懸念を表明。ワン氏は、カリフォルニア州とデラウェア州の司法長官らに対し、OpenAIにこの約束を守らせるよう呼び掛けた。

　一方、OpenAIの声明は、徹底した調査の結果、3人が機密情報の取り扱いに関する明確な規定に違反したと判断したと説明。書簡で触れられた内容を超える重大な信頼違反が見つかったとして、解雇の判断を維持するとした。個別の雇用問題は通常は公にしないとして、どの規定に、どのような形で違反したのかは明らかにしていない。

　その上で、今回の判断は安全性への懸念を表明したことによるものではなく、そうした理由で従業員を解雇したことはないと強調した。外部の安全性評価機関とは契約の最終調整を進めており、数週間以内に詳細を発表する予定という。監視可能性の維持には業界全体での取り組みが必要だという点では書簡に同意するとし、3人のこれまでの貢献に謝意を示している。

関連記事

• 

  「ChatGPT for Teens」は「容認できないリスク」と米非営利団体が警告　OpenAIは利用状況と新機能を発表

• 

  OpenAI、モデルの「ミスアライメント」報告の新フレームワーク公開　データ捏造など6件の事例も公表

• 

  「監視されていないときのAIは、もう評価できない」　OpenAI現役研究者が個人声明

• 

  Hugging Face侵害事件、OpenAIとMETRが最終報告書公開──約1200体のAIエージェントが“闇掲示板”で結託し700体が攻撃に参加