米Anthropicが先日公開したばかりのAIモデル「Claude Fable 5」を巡る状況が騒がしい。MicrosoftはもともとOpenAIに出資していたが、最近は特定のAIモデルに依存しないマルチ戦略を推進しており、AnthropicのOpusやSonnetといった最新モデルをCopilot製品群から利用できるようにしていた。
一方で、Microsoft社内でのAnthropic Claude製品使用を許容したことで利用者が殺到し、コスト支出を抑えるために急きょ利用を停止する方針を打ち出すといった事件もあるなど、特定のAIモデルに利用が集中しないよう苦慮する一面も見せている。
そのような状況下で起きたのが、「Claude Fable 5」の停止事件だ。
この最新モデルは米国時間で6月9日に公開されたものだが、以前に物議を醸した「Claude Mythos 5」に保護機能を加えて安全性を高めたという触れ込みで一般提供が行われた。ただし、公開からわずか3日後の12日には米政府からの指令で米国外(正確には米国籍または永住権を持たない者)への提供を禁止する保護措置が採られ、結果としてAnthropicは全ユーザーへの同モデル(Fable 5/Mythos 5)のアクセスを停止することを発表している。
同社Mythosの存在が恐れられていたのは、その強力な「自律的なサイバー攻撃と脆弱(ぜいじゃく)性発見能力」にある。人間の手ではセキュリティ専門家でも困難な脆弱性の発見に加え、それをサイバー攻撃に応用することでハッキングが容易になる懸念が高かったからだ。
保護機能を加えて安全性を高めたという触れ込みで登場したFable 5だが、わずか数日程度の間に起きた事象を6月14日時点の情報でMicrosoft視点から整理する。
Microsoftからは「GitHub Copilot」「Microsoft 365 Copilot」「Microsoft Foundry」での提供に加え、AmazonからはAWS Bedrock、GoogleからはVertex AIを通じて全世界で利用可能に。
実際のタイミングはFable 5のリリース直後だったと言われるが、The Vergeのトム・ウォーレン氏の同日付の報道によれば、Microsoftは自社の従業員に対してFable 5の利用を禁止していたという。
理由として挙げられているのが、「ZDR(Zero Data Retention)」に関するポリシーの変更だ。具体的にはAnthropicのサポートページでも触れられているが、OpusやSonnetなどの既存モデルでは「入力したプロンプトや出力結果をサーバ側で保持しない」というZDRの契約が利用可能だったのに対し、Fable 5では前述のMythosでの安全性上の懸念から「30日間のデータ保持」をうたってZDRを認めていなかったため、この部分にMicrosoft側が難色を示したという経緯だ。
米商務省長官のハワード・ラトニック氏が安全保障上のリスクを理由に、居住地を問わず、米国籍および永住権を持たない全ての人物へのFable 5/Mythos 5の提供を禁止するという緊急指令が発出。報道などによれば、Fable 5の保護機能を突破する“ジェイルブレイク”手法が発見されたため、悪用への危険性から国家安全保障上のリスクが浮上したからだという。
同日、Anthropicは同件に公式声明を出し、背景について説明を行っている。
対象を限定せよとの米国政府側の指令ではあるものの、米国外からのアクセスはIPアドレスでブロックできるとしても、VPNを使うなど突破手段はいくつかあり、加えて米国内であっても国籍に応じた提供可否を判断することは不可能なため、結果としてサービスの全停止を選択したことになる。
また前述のZDRポリシーについても触れており、問題となったジェイルブレイクを含む攻撃手段について、Fable 5では多層防御手段を講じている。完全な防御姿勢を採るよりも限定的なアクセス手段を提供することで監視を行うことで最終的な“突破”を防ぐことを狙っており、ZDRを採用しなかった理由がここにあるとも説明している。
ゆえに、今回指摘されたジェイルブレイク手法についても軽微な可能性の1つに過ぎず、政府側の過剰な反応に対して暗に釘を刺しているとも読める。
なおWall Street Journalなどの報道によれば、このジェイルブレイク問題について米財務長官のスコット・ベッセント氏に通告を行ったのはAmazon CEOのアンディ・ジャシー氏だという。
Amazon社内のセキュリティチームがジェイルブレイク手法を“発見”し、その旨をBessent氏を含むトランプ政権高官らに伝えたところ、政府側でもそれが可能であると検証の末に判断、大統領は米国でのAI開発遅れにつながる懸念を示しつつも、最終的に前述のアクセス禁止令に署名したという。
一見するとライバル企業によるAI開発やリリース妨害工作の一種に見えるかもしれないが、先ほども触れたようにAmazonはAnthropicのAIモデルを自社でホスティングして一般提供も行っているお得意様であり、Anthropicへの投資を最初期から行っている主力株主の1社だ。
同様のことはGoogleにもいえる。いわゆるAI提供に関わる“ビッグテック”各社は他にMicrosoftやNVIDIA含めてAnthropicへの巨額投資を行い、自社製品にそこで開発されたAIモデルを組み込んでいる。
さらにAnthropicは2026年秋にも株式上場(IPO)を計画していると言われ、“ロックアップ”期間を考慮したとしてもここで挙げた企業群は同社IPOをもって巨額の資金を手に入れることになるわけで、IPOのマイナス要因になる事象は望んでいない。
また米政府が指示した「外国籍の人物へのAIモデルへのアクセスを禁止」という方針も懸念事項だ。AnthropicでAI開発に携わる人員の多くが外国籍の者であるため、AI開発自体をストップさせかねない。通報を行ったジャシー氏にこういった意図がなかったとしても、米政府の過剰反応を引き起こすこの事態こそAIにとってのリスクと言えるかもしれない。
Microsoftが描く「定額+従量課金」のAI新時代と、無制限の“エッジAI”へと向かうWindowsのゆくえ
MicrosoftとOpenAIの「独占契約終了」が意味するもの──AI覇権を巡る両社のしたたかな戦略
Windows 11のレスポンス改善が徐々に浸透中 最新アップデートの実力とMicrosoft AI戦略の転換点
AIモデルの性能競争から降りたAppleの狙いとは? AI時代の“計画的長寿命化”と「Siri AI」がユーザーとアプリをつなぐ理由
主戦場はクラウドから「手元のAgent AI」へ COMPUTEXでNVIDIAとIntelが描いた次世代PCの姿Copyright © ITmedia, Inc. All Rights Reserved.