「AIの多少の悪影響は許容すべき」 OpenAIアルトマン氏、“AIが暴走”してなおAnthropicと主張がズレる訳（1/2 ページ）

[ロイター]

　2026年夏、米OpenAIのAIモデルが複数回にわたる不正なハッキングを実行したことで物議を醸した。この騒動を経て、同社CEOのサム・アルトマン氏は「AIがもたらす多くの恩恵を考えれば、AIによって起きる『多少の悪いこと』を受け入れるべきだ」と述べた。

　同氏は、米国のニュースメディアであるPoliticoのポッドキャスト「Decoded」に出演。米Anthropicと同社CEOのダリオ・アモデイ氏が提言する新たなAI規制に対して、OpenAIや自身の見解とどう異なるのか問われたアルトマン氏は、こう答えた。

　「この技術がもたらす恩恵と、人々が『自ら決める権利』（主体性）を持ち続けるために、多少の悪いことが起きるのを世界は受け入れるべきだと考えている」

　この発言が出たのは、米議会がAIを対象とする法律を成立させていないタイミングで、AIにどの程度の規制を設け、どのような安全対策を適用すべきかを巡る議論が激しさを増している時期だった。

OpenAIのCEOを務めるサム・アルトマン氏（写真：Fortune）

Anthropicは強い規制を提案　「命を賭け事に使っている」

　9月には、Anthropicの研究者が同社を退職し、AI企業が開発を急ぐあまり「われわれの命を賭け事に使っている」と警告した。この研究者は、人間の介入なくAIが進化する「自己改善型システム」に向けてAI開発を急ぐと、人類を脅かしかねないと指摘した。

　AnthropicはAIの開発規制を提唱しており、アモデイ氏は同月、AIのリスクに対処するため、AI開発を減速させるよう世界に求めた。アルトマン氏をはじめとする他のAI企業幹部も、開発を減速させるという点ではアモデイ氏に同意した。

　OpenAIは8月、公共の安全に関する枠組みや、壊滅的なリスクを軽減する計画の公表を義務付けたカリフォルニア州法を支持した。同法では、AIモデルが制御を失った場合の報告を義務付けている。同社は報告だけでなく、開発中のAIモデルの監視まで法律の対象にするよう求めた。

　OpenAIで社長を務めるグレッグ・ブロックマン氏は9月29日、米ホワイトハウスで他のAI企業幹部とともに、業界の自主的な基準を策定するための合意文書に署名した。

　それでも、その取り組みは、アモデイ氏をはじめとする他のAI業界のリーダーが求めるより厳格な規制には及ばない。アモデイ氏は、米連邦航空局（FAA）のような規制当局を設け、AIモデルの試験や監査を義務付けるほか、公共の安全に関する基準を満たさないモデルについては公開を阻止したり、公開後に取り消したりできる権限を与えることを提案している。

9月29日、ホワイトハウスでAI開発の自主規制について合意したAI企業の幹部。中央にドナルド・トランプ大統領がいる他、OpenAIのグレッグ・ブロックマン氏、米NVIDIAのジェンスン・フアン氏、米Metaのマーク・ザッカーバーグ氏などが集まった（出所：ホワイトハウスのギャラリー）