人間レベルの知能を持つ「AGI」は3年後？　元OpenAI研究員の警告が話題　AIの“人間超え”で何が起こるか（1/3 ページ）

公開 2024年06月28日 10時01分

[ITmedia]

印刷する連載新着通知を受け取る Googleで優先するソースとして追加

　およそ1年前の2023年7月。22年末にChatGPTを世に出して世界を驚かせた米OpenAIが「スーパーアラインメントチーム」という組織を立ち上げることを世に出した。このチームに与えられた目標は「人間を超える知能『超知能』（superintelligence）を得たAIと人間が協力できるようにするため、その技術的課題を4年以内に解決すること」だった。

当時のOpenAIの発表文

　そのために、当時OpenAIの共同設立者兼チーフサイエンティストだったイリヤ・サツケバー氏と、アラインメント責任者を務めていたヤン・ライク氏が共同でチームを率いることに。またOpenAIがこれまでに確保した計算能力の20％をこの取り組みにささげることを宣言していた。

イリヤ・サツケバー氏（左）、ヤン・ライク氏（右）

　しかし24年5月、サツケバー氏とライク氏がOpenAIを退職することになり、同チームは、誕生からわずか10カ月で解散に。OpenAIの超知能への対応は、大きく後退することになった。そのわずか1カ月後、同チームの元研究員が「『AGI』（汎用人工知能、人間と同程度の知能を持つAIのこと）は27年に実現する」と警鐘を鳴らす論文を発表し、話題になったことをご存じだろうか？

AGIは27年に実現する？

スーパーアライメントチーム解散までの10カ月間

　論文の話題に入る前に、OpenAIのスーパーアライメントチームについて情報を整理したい。

　超知能とのアラインメントに関する課題を解決するので「スーパーアラインメントチーム」と名付けられたわけだが、そもそも「アラインメント（alignment、英語で「連携」や「調整」を意味する単語）」とは何を指しているのか。

　公式発表をよく読むと、この言葉は「AIシステムが追求する目標や行動を人間の意図や価値観と一致させる（整合性を取る）こと」を意味していると分かる。AIシステムに任されるのがさまつなタスクであれば、別にその行動を人間の価値観と一致させなくてもリスクは少ない。

　しかしいつの日か人間よりもはるかに賢いAIシステムが生まれ、多くの人々に重大な影響を与える判断を下すようになったとき、そのAIと人間が目指すものが一致していなければ、何かしら不幸な事態が起きることは火を見るよりも明らかだ。

　それを防ぐためには、あくまで人間の側が主導権を握り「超知能」に対する統制を利かせていかなければならない。しかし現在のAIシステムに対するアラインメント手法は、より高度なシステムである超知能には適用できない可能性が高い。そこで予想される各種の技術的課題を解決し、新しいアプローチを確立することが、スーパーアラインメントチームのミッションというわけだ。

　またOpenAIは、そうした統制が必要になるほど高度な超知能が、今後10年以内に実現されるだろうと予測。そのために、このチームに与えたミッションに「4年以内」という時間的制限を設けていたわけである。

　しかし23年11月、OpenAIの取締役会が突如としてサム・アルトマンCEOを解任する。スーパーアラインメントチームを率いていたサツケバー氏は、この事件の首謀者の1人とされた。結局この騒動は、最終的にアルトマン氏のCEO復帰という形で幕を閉じる。そして24年5月、サツケバー氏とライク氏の両名がOpenAIを退職。スーパーアラインメントチームは解散となった。

　ちなみにサツケバー氏はその後に「安全な超知能」の開発を目指す新たなAI企業のSSI（Safe Superintelligence）を立ち上げている（解説記事）。またライク氏はOpenAIのライバル企業である米Anthropicに移り、スーパーアラインメントの取り組みを続けるとされている。