OpenAI、フロンティアAIの国際標準づくりを米国主導で進めるよう提言　「RSIはまだ起きていない」

　米OpenAIは9月21日（現地時間）、「Building standards for the next phase of AI」と題した公式ブログを公開し、再帰的自己改善（RSI）を含むフロンティアAIの国際的な技術標準を、米国が主導して各国と共同で策定すべきだと提言した。

　同社は、AIが次世代AIの開発作業を担う割合が増えるにつれ、人間が関与していてもRSIが進み得ると説明した。自動化されたAI研究は、アライメント研究の強化や、高度化するAIへの防御構築にも役立つとしている。

　一方で、完全に自律的なRSIは現時点では起きていないとし、安全に実施できるようになるまでは追求すべきではないとの立場を示した。進めるかどうかは、人間による制御を維持できるかどうかと、利点とリスクに関する民主的な判断に委ねられるべきだとしている。慎重さを欠けば、人間が理解できない研究プロセスの監督が困難になり、AI開発の実質的な制御を失う恐れがあると指摘した。7月のHugging Face侵害については、RSIの直接の結果ではないものの、そうしたリスクの予兆だと位置付けている。

　国際標準の仕組みとしては、日本、英国、カナダ、フランス、ドイツ、韓国、シンガポール、インド、オーストラリア、ケニアなどに設立済みのAI安全性研究所のネットワークを活用する案を示した。米商務省傘下のAIセキュリティ標準・革新センター（CAISI）や各国の業界団体を通じて標準を策定する。策定した標準はライセンス制度や公開前の義務的審査、承認要件ではなく、法制度に取り込むかどうかは各国政府の判断に委ねられるとした。新規参入者やオープンウェイトの開発者を含め、特定の企業や国、ビジネスモデルが有利にならない設計にすべきだとも述べている。参考例には航空や金融安定の分野を挙げ、ISOやFrontier Model Forumなど既存の標準化団体との連携も求めた。

　米国が主導すべき理由として、米国のAI産業が技術の最先端にあり、金融や貿易、防衛などの分野で国際的に有利な位置にあることを挙げた。今主導しなければ、分断された国際的な枠組みが周囲に形成されるのを見守ることになると主張している。

　OpenAIの広報担当者がReutersに明らかにしたところによると、サム・アルトマンCEOは第81回国連総会のハイレベルウィーク中に開かれる国連安全保障理事会のAIと国際安全保障に関する公開会合で、国際協調や共通の安全基準の必要性、AIの恩恵を世界に届けるための同社の取り組みについて話す見込みだ。会合は23日に予定されている。

　AI開発を巡っては、米Anthropicのダリオ・アモデイCEOが12日に開発のペース調整を訴えるエッセイを公開し、アルトマン氏らが同調している。一方、トランプ大統領はAI脅威論を「でっちあげ」と否定するなど、規制に否定的な姿勢を示している。

関連記事

• 

  トランプ大統領、「AI Force」創設を表明　「AI脅威論はでっちあげだ」

• 

  OpenAI、モデルの「ミスアライメント」報告の新フレームワーク公開　データ捏造など6件の事例も公表

• 

  トランプ大統領、アモデイ氏を名指しで「完璧な小さい天使のふり」　「AIに必要なガードレールは強く賢い大統領だけ」

• 

  「監視されていないときのAIは、もう評価できない」　OpenAI現役研究者が個人声明

• 

  トランプ政権のサックス氏、AI「ペース調整」論に苦言　「規制がなければできないふりをやめろ」

• 

  AnthropicのアモデイCEO、AI開発の「ペース調整」訴えるエッセイ公開　アルトマン氏とマスク氏も賛同

• 

  Anthropic在籍の研究者2人も同調──「AIが人類を滅ぼしかねないと本気で考えている」

• 

  Anthropicの研究者が退社し超知能の開発競争を猛批判──「来年末には制御不能になる可能性」

• 

  OpenAI、休眠サイトへの自社AIエージェント書き込みを認め、非公表の理由を説明