OpenAIのアルトマンCEO、「安全・セキュリティ委員会」のトップ退任　完全独立組織に

» 2024年09月17日 09時07分公開

[ITmedia]

　米OpenAIは9月16日（現地時間）、5月に設立した「安全・セキュリティ委員会」を、独立した理事会監視委員会とすると発表した。設立時点ではサム・アルトマンCEOがトップだったが退任し、取締役でもあるカーネギーメロン大学のジコ・コルター教授が委員長を務める。

　5月の委員会設立時、CEOが委員長に就任したことで、この委員会がOpenAIの慣行をどこまで客観的に監視できるのか疑問視されていた。

　OpenAIはまた、OpenAIの安全諮問グループ、安全・セキュリティ委員会、OpenAI取締役会がそれぞれ先日発表した「o1」の安全性を審査し、全体的なリスク評価を「中程度」としてリリースを承認したことも発表した。

OpenAI、カーネギーメロン大のコルター教授を取締役に　安全・セキュリティ委員会にも参加へ
OpenAIは、9人目の取締役としてカーネギーメロン大学機械学習学部長のジコ・コルター教授を迎えたと発表した。コルター教授は同社の「安全およびセキュリティ委員会」にも参加する。
OpenAI、安全およびセキュリティ委員会を設立　トップはアルトマンCEO
OpenAIは、AGI開発を含むプロジェクトとに関する安全とセキュリティをレビューするための委員会を設立したと発表した。率いるのはサム・アルトマンCEOなど3人の理事。次世代モデルのトレーニングを開始したことも発表した。
OpenAI、「GPT-4o」のリスク評価結果を公開　「リスクは中程度」と判断
OpenAIは、生成AIの最新モデル「GPT-4o」のリリース前に実施した安全対策とリスク評価を概説する文書「System Card」を公開した。レッドチームの評価を元に、OpenAIは「リスクは中程度」と判断したとしている。
米政府、AIの安全利用を助言する委員会にアルトマンCEOなど大手AIトップを招致
米国土安全保障省はバイデン大統領の指示の下、AIの安全利用に関する諮問委員会を立ち上げた。委員には、サム・アルトマン氏やサティア・ナデラ氏など、AI関連大手のトップなど22人が招致された。