半年後に「巨額の損害」、Anthropicトップが示す“最悪のシナリオ” AI開発減速にOpenAIも“異例の同調”のワケ（3/3 ページ）

米Anthropic（アンソロピック）のダリオ・アモデイ（Dario Amodei）CEOが9月12日、自身のWebサイトに「We Must Pace the Frontier」（フロンティアのペースを調整せねばならない）と題したエッセイを公開した。

[湯川鶴章、エクサウィザーズ AI新聞編集長]

サム・アルトマン、イーロン・マスクが即座に同調

　アモデイ氏の投稿から約2時間半後、アルトマン氏がXに以下の投稿をした。

　「フロンティアのペース調整が必要だというダリオの考えに同意する。ここ数週間、OpenAI内でも主要な議題になってきた。社員並みのアクセスを持つ独立評価者を受け入れるという約束は素晴らしい考えであり、われわれも同じことをする。近く詳細を共有する」

　OpenAIは8月18日にも、最新モデルの強化学習を2週間停止するなど規模拡大のペースを一時的に落としたと公表している。

　マスク氏の反応はアモデイ氏の投稿から1時間後、引用投稿でわずか3語だった。「Dario is right」（ダリオは正しい）。マスク氏は2月にAnthropicを「人間嫌いで邪悪」と評し、この2日前にも元Anthropic研究者の絶滅警告を「仕込みだ」と切り捨てたばかりで、転換の落差そのものが話題になった。米メディアのAxiosは、マスク氏側がデータセンター容量の供給元としてAnthropicを主要顧客に抱えている点を付記している。

　Anthropicの公共政策責任者サラ・ヘック（Sarah Heck）氏はエッセイに続けてXで、政府の役割として中国などの国への最先端半導体の販売禁止と、フロンティアモデルの試験を義務付け、危険なモデルを差し止める権限を持つ国内法の制定を挙げた。

　Hugging Faceのクレマン・デランジュ（Clement Delangue）CEOは、共同創業者のトーマス・ウルフ（Thomas Wolf）氏が率いる「Open Alignment Initiative」の立ち上げを表明し、Anthropicの常駐評価プログラムへの参加を申し入れた。「アライメントが決定的に重要であり、ひと握りのフロンティア企業の閉じた扉の内側では解決できないことが、いまや明らかだ」としている。

　一方で、計画の実効性への疑問も即座に出た。第1段階には実施期日がなく、エッセイは「近いうちに」としか書いていない。第2段階に必要な独占禁止法の適用除外を、政府が出す義務はどこにもない。誰でも自由にダウンロードして改造できる「設計図や中身が公開されたAIモデル」（オープンウェイト）をどう規制・監視するのかという点には触れていない。

　アモデイ氏のXへの返信欄では、米ゲーム大手Epic Games（エピックゲームズ）のティム・スウィーニー（Tim Sweeney）CEOが、第三者評価者が政治的な工作員になる可能性を問い、投資家のマイク・デュダス（Mike Dudas）氏は「自分が登り切ったところではしごを引き上げるわけか」と書いた。安全規制が結果的に既存大手の地位を固めるという、Anthropicが以前から向けられてきた批判である。

　そして最大の空白は沈黙の方にある。9月13日時点で、英Google DeepMind（グーグル・ディープマインド）、米Meta（メタ）、中国勢のいずれからも公の反応はない。アモデイ氏の構想は、民主主義国がどこまで減速できるかの上限を中国との差で規定している。その中国側が黙ったままである限り、3段階目はおろか2段階目の輪郭も定まらない。

本記事は、エクサウィザーズが運営するAI新聞内の記事「『AI開発は減速すべき』Anthropic CEOが提言、Altman氏、Musk氏が同日に同調」（2026年9月13日掲載）を、ITmedia ビジネスオンライン編集部で一部編集の上、転載したものです。

著者プロフィール

湯川鶴章

AIスタートアップのエクサウィザーズ AI新聞編集長。米カリフォルニア州立大学サンフランシスコ校経済学部卒業。サンフランシスコの地元紙記者を経て、時事通信社米国法人に入社。シリコンバレーの黎明期から米国のハイテク産業を中心に取材を続ける。通算20年間の米国生活を終え2000年5月に帰国。時事通信編集委員を経て2010年独立。17年12月から現職。主な著書に『人工知能、ロボット、人の心。』（15年）、『次世代マーケティングプラットフォーム』（07年）、『ネットは新聞を殺すのか』（03年）などがある。

「AIに詳しい人ゼロ」の中小企業が、年間2247時間削減できた方法

AIを使いたいが、社内に詳しい人がいない。そこからの1年でした。AI担当を募ると36人が挙手し、非エンジニアの社員がAIに相談しながら自分で業務を自動化。全社に広がり、年間2247時間を削減しました。特別なデータ整備は必要ありませんでした。何から始め、どう広げたのかをお話しします。

【9月14〜18日・視聴無料】講演内容を詳しく見る