OpenAIのお家騒動の実際とMicrosoftのAI開発の今後：Windowsフロントライン（3/4 ページ）

[鈴木淳也（Junya Suzuki），ITmedia]

AIの“安全性”とOpenAI

　前述の“Microsoftの陰謀論”と合わせ、OpenAIの取締役会の動きの遠因となった理由に挙げられていたのが「AIの“安全性”」に関する議論だ

　The Informationなどが報じているが、今回のアルトマン氏解任劇の中核人物とみられる共同創業者のイリヤ・スツケバー（Ilya Sutskever）氏は、このAIの“安全性”について議論をじっくりと進めるべきという慎重派であり、商用化路線を積極的に進めるアルトマン氏との溝が深くなっていたという見方が、内部文書での告発からウワサされていた。

　こうした議論の行き違いは既に数カ月以上前から顕在化しており、各所の報道でもそれとなく触れられていたようだ。

　興味深いのは、アルトマン氏解任劇の前日にあたる11月16日付けでToronto Lifeが公開した「Rage Against the Machine（機械に対する怒り）」というジェフリー・ヒントン氏の活動に関する記事の存在だ。

　ヒントン氏は、2010年代前半にAlexNetと呼ばれるCNN（Convolutional Neural Network：畳み込みニューラルネットワーク）を使った画像認識技術で一躍注目を集め、AI開発のトレンドを大きく動かした人物だ。

　だが同時に、現在同氏が最も知られているのは「AIの危険性」を啓蒙する活動であり、それを理由に2023年5月にGoogleを退職している。同氏はカナダのトロント大学の教授でもあるが、その生徒の1人がAlexNetのプロジェクトにも携わったスツケバー氏となる。

　スツケバー氏は前述のヒントン氏に関する著述の中で下記のように触れられており、アルトマン氏と“安全性”について衝突があったのではないかという言説が見られた。

Humanity’s best hope may be Hinton’s former student Ilya Sutskever. This past July, he announced that he would be launching and co-leading a new team at OpenAI called Superalignment?a souped-up approach to alignment, the vein of research dedicated to preventing AI from going rogue and ensuring that it instead serves ethical, human-oriented goals. This is not some side-of-desk project. Sutskever, one of the world’s leading deep-learning experts, is OpenAI’s co-founder and chief scientist. He’s dedicating a fifth of the company’s computing power to solving this problem while his boss, Sam Altman, tours the world, speaking with presidents and prime ministers about the risks of AI.

Toronto Lifeが公開した記事のカバーを飾るジェフリー・ヒントン氏

　だが、この意見についてはアルトマン氏の後に暫定CEOに就任したミラ・ムラティ氏の後を継いでCEOとなったエミット・シアー氏がX（Twitter）への投稿で否定している。

　例によって長文のため肝心の発言が埋め込みツイートでは見えなくなっているが、投稿を展開すると最末尾に下記の書き込みを確認できる。少なくとも、OpenAIの取締役会がアルトマン氏を排除したのはスツケバー氏を筆頭とする“安全性”に関する問題ではなく、別の理由で同社への復帰を拒んでいるという。

PPS: Before I took the job, I checked on the reasoning behind the change. The board did *not* remove Sam over any specific disagreement on safety, their reasoning was completely different from that. I'm not crazy enough to take this job without board support for commercializing our awesome models.

　筆者はIT業界におけるこの手のお家騒動や役員の追い出し劇を多数見てきたが、その原因はほぼ「内部の勢力争い」か「スキャンダル」に帰結する。