米国が“最先端AI”に制限をかけたワケ 投資額は20分の1なのに、なぜ「中国AI」を恐れるのか（1/3 ページ）

[ITmedia]

視聴無料・LIVE配信：
無料セミナー「ROI視点で考える本気のAI PC選定」開催！

---

• 開催日：8月28日（金）
• 形式：オンラインセミナー
• 参加費：無料

講演内容を詳しく見る

　6月12日、米Anthropicが開発した先進AIモデル「Claude Mythos」や「Claude Fable 5」が、突然利用できなくなる事態が起きた。背景には、米国政府の大統領令による厳しい輸出規制がある。なぜ米国はそこまで厳しい規制に踏み切ったのか。そこにはAIの安全性を巡る問題と、急速に存在感を増す「中国の影」があった。

最先端AIモデルが使用停止になったワケは？（画像：TechLIVE『【米国を猛追する中国AIの裏側】最先端AI「Fable5」突如停止の裏側／AI脱獄の脅威／裏側には猛追する中国AIの不気味な強さが』より、以下同）

本記事は、アイティメディアが運営する動画メディア「TechLIVE」で公開した動画『【米国を猛追する中国AIの裏側】最先端AI「Fable5」突如停止の裏側／AI脱獄の脅威／裏側には猛追する中国AIの不気味な強さが』を基に作成しています。記事の内容は2026年7月24日公開当時のものです。

最先端AIが突然使えなくなったワケ

　米国政府は6月12日、米Anthropicが開発した先進AIモデル「Claude Mythos」や「Claude Fable 5」に対して輸出を禁じ、米国籍を持つ人以外の利用を制限した。国籍ごとに利用を制御する仕組みを整えられなかったため、結果として一時的に全ユーザーが利用できなくなった。

　きっかけはClaude Fable 5の公開直後に、Amazonの研究者が「AIに設けられた安全策が十分に機能していない可能性がある」と報告書を出したことだ。

　AIには危険な指示を拒否するための安全対策が組み込まれている。しかし、その制限を回避する「脱獄（ジェイルブレイク）」が可能であると指摘されたのだ。米国政府とAnthropicが調査した結果、Claude Fable 5特有の弱点ではなく、既存のClaude OpusやGPT、中国製AI「Kimi」などでも同様の問題が確認されたという。

「脱獄（ジェイルブレイク）」とは？

　AIは危険な要求には応じないよう、「安全」「安全マージン（安全のための緩衝地帯）」「危険」「超危険」というように段階を設けて制御している。今回は、安全と危険の間にある「安全マージン」を広げ、少しでも危険と判断される内容には、より慎重に対応するよう再調整が行われた。その後、米国政府の許可を得て、7月1日にサービスを再開した。

　安全になった分、性能が落ちたかどうかは調査中だ。「安全策を強化したことで、できなくなったことが増えた」という指摘があった一方、「AIエンジンとしての性能は変わっていないため、大差はない」という報告も寄せられている。

安全対策を強化した

　セキュリティに特化したモデルであるClaude Mythosは、システムの脆弱（ぜいじゃく）性を見つけるだけでなく、攻撃用のコードまで生成できる高度な能力を持つため、一般には公開されていない。一方のClaude Fable 5も同等の性能を持つことから、悪意のある要求に対しては自動的に性能を抑えた別モデルへ処理を切り替える仕組みが導入されていた。