OpenAI、退社したライケ氏のAGI警鐘に応じるも具体策は明示せず

公開 2024年05月19日 08時15分

更新 2024年05月19日 08時14分

[ITmedia]

印刷する Googleで優先するソースとして追加

　米OpenAIのグレッグ・ブロックマン社長は5月18日（現地時間）、前日にヤン・ライケ氏が退社報告の中で同社がAIの安全性を軽視していると警鐘を鳴らしたことについて説明する長文ポストを、サム・アルトマンCEOとの共同署名付きでXで公開した。

　ライケ氏の退職により生じた疑問への対応として、OpenAIの全体的な戦略について説明するとしている。

　ライケ氏は、人間よりもはるかに賢いAI「Superintelligence」（超知能）の制御を目指して昨年結成されたSuperalignmentチームの共同トップだった（もう1人のトップだったチーフサイエンティストのイリヤ・サツケバー氏は14日に退社している）が、OpenAIの幹部チームが「安全性を輝かしい製品の開発より後回しに」しており、その方針に同意できなかったため退社すると説明した。

Superalignmentチームの目標は「2027年までに超知能調整の中核となる技術的課題を解決すること」だった

　ブロックマン氏は長文ポストでOpenAIによるAGI対策として、「拡張性のある監視ソリューション」や「密接なフィードバックループ」「厳格なテスト」などという言葉を使っているが、具体的な詳細はない。

　米Wiredは17日、Superalignmentチームのほとんどのメンバーが解雇または退社し、チームは消滅したと報じている。同メディアによると、このチームが担っていた役割は、AIモデルの微調整を担当するチームの共同リーダー、ジョン・シュルマン氏が主導するという。

本稿執筆現在、SuperalignmentチームのページはまだOpenAIに残っている

　サツケバー氏もライケ氏も、OpenAIを去りつつも同社がAGIへの道を正しく歩むことを期待するとしている。

　米Voxは17日、OpenAIを辞めていく元従業員がOpenAIの方針に直接的に抗議しない「非常に明確な理由があることが分かった」という。退社時に署名する必要がある退職合意書で生涯にわたって元雇用主を批判することが禁じられており、この合意書への署名を拒否した場合、在職中に獲得したストックオプションなどのすべての既得権を失うという条項があるのだ。

　アルトマン氏はブロックマン氏の投稿の数時間後、この報道についてポストした。「誰かの既得権益を奪い返したことは一度もない」し、退職合意書にこのような条項があったことは「知らなかったが、知っておくべきだった」と語った。退職合意書は改定中という。

印刷する