OpenAI、安全およびセキュリティ委員会を設立 トップはアルトマンCEO

OpenAIは、AGI開発を含むプロジェクトとに関する安全とセキュリティをレビューするための委員会を設立したと発表した。率いるのはサム・アルトマンCEOなど3人の理事。次世代モデルのトレーニングを開始したことも発表した。

[ITmedia]

　米OpenAIは5月28日（現地時間）、安全およびセキュリティ委員会の設立を発表した。AGI開発を含む同社のプロジェクトと運営に関する安全とセキュリティの決定について、理事会全体に勧告する責任を担うとしている。委員会を率いるのは、理事会のサム・アルトマンCEO、ブレット・テイラー会長、アダム・ダンジェロ氏、ニコール・セリグマン氏。

　これまで同社でAIの安全と制御に取り組んできたSuperalignmentチームは、リーダーのイリヤ・サツケバー氏とヤン・ライケ氏の退社によって消滅した。

　ライケ氏は退社の際、OpenAIは「安全性が輝かしい製品の開発より後回しになっている」と警鐘を鳴らした。

　OpenAIは13日、生成AIの新たなモデル「GPT-4o」を発表した際、ChatGPTの新しい音声「Sky」を紹介し、アルトマン氏はこれが映画「Her」の声に似ていることをXのポストでほのめかした。その後、Herの声を担当したスカーレット・ヨハンソンが怒りの声明文を発表し、これを受けてアルトマン氏は「Skyの声をヨハンソンさんに似せようとしたことはない」と語った。

　新委員会はまず、向こう90日間でOpenAIのプロセスと安全対策を評価し、それに基づいて理事会全体に推奨事項を共有する計画。この推奨事項は理事会全体のレビュー後、公開するとしている。

　委員会には理事の他、サツケバー氏の後任のチーフサイエンティスト、ヤコブ・パチョキ氏なども参加し、社外の専門家も雇用するという。

　同社はまた、「最近、次世代モデルのトレーニングを開始した」ことも明らかにした。