OpenAIのAI危険対策チームトップが「限界に達し」退社 「安全確保が後回しになっている」

[ITmedia]

　米OpenAIで人間よりもはるかに賢いAI「Superintelligence」（超知能）の制御を目指して昨年結成されたSuperalignmentチームのトップ、ヤン・ライケ氏は5月17日（現地時間）、退社するとXで発表した。

　「私がOpenAIに参加したのは、ここが超知能の研究を行うのに世界で最適だと思ったからだ。だが、OpenAIの幹部チームと中核的優先事項についてずっと同意できず、限界点に達した」という。

　Superalignmentチームはライケ氏と、共同創業者でチーフサイエンティストのイリヤ・サツケバー氏が率いてきた。サツケバー氏は14日に退社を発表している。

Superalignmentチームについて説明するヤン・ライケ氏（画像：Foresight Instituteでの昨年8月の講演動画より）

　ライケ氏は、「超知能の構築は本質的に危険な取り組み」であり、「OpenAIは人類全体に大きな責任を担っている」が、「安全性が輝かしい製品の開発より後回しになっている」と警鐘を鳴らす。

　OpenAIは昨年2月、AGI（Artificial General Intelligence；汎用人工知能）を「一般的に人間より賢いAIシステム」として、リスク軽減策について説明した。Superalignmentチーム結成はその一環だった。

　ライケ氏はOpenAIに対し、「AGIの重要さを実感してください。AGIにふさわしい厳粛な態度で臨んでください」「私も世界中も、あなたたちを信頼しています」というメッセージを残した。

　ライケ氏のポストの数時間後、サム・アルトマンCEOは「ライケ氏が去るのは非常に残念だ。彼の言う通り、やるべきことはまだたくさんある。数日中により長いポストでそれについて説明する」とポストした。