「Claude Fable 5」「Mythos 5」全面停止 米政府の指令により Anthropicは早期復旧を宣言
米Anthropicは6月12日(現地時間)、最上位AIモデル「Claude Mythos 5」と、Mythos 5に保護機能を実装した「Claude Fable 5」の提供を全ユーザーで停止すると発表した。米政府が安全保障上の権限に基づき、外国籍者による両モデルへのアクセスを全て停止するよう求める輸出規制指令を出したため。他のモデルは影響を受けないとしている。
同社によると、指令は同日午後5時21分(米東部時間)に書簡で届いた。米国内外を問わず、同社の外国籍従業員を含む全ての外国籍者のアクセス停止を求める内容で、順守するには両モデルを直ちに無効化するしかなく、結果として全顧客が利用できなくなったと説明している。
政府はFable 5の保護機能を回避する「ジェイルブレーク」(脱獄)の手法を把握したという。Anthropicが指令の根拠とみられる報告を検証した結果、見つかるのは少数の既知の軽微な脆弱性にとどまり、同等の能力は米OpenAIの「GPT-5.5」など他の公開モデルでも広く得られると主張している。
また同社は、公開前の数週間に米政府や英国のAI評価機関(UK AISI)、複数の民間第三者機関などと協力し、計数千時間に及ぶ保護機能の検証(レッドチーム演習)を実施したと説明。保護機能を広範に無効化できる「ユニバーサルジェイルブレーク」を発見できたテスターはおらず、特定の状況でのみ通用する限定的な回避が残り得ることは公開時に明言済みだったとしている。
そのうえで同社は、指令に従って両モデルへのアクセスを遮断する一方、「限定的な潜在的ジェイルブレークの発見が、数億人に展開された商用モデルを回収する理由になるべきだという考えには同意しない。この基準が業界全体に適用されれば、全てのフロンティアモデル提供者による新たなモデルの展開は事実上止まる」と反論。「これは誤解だと考えており、可能な限り早くアクセスを復旧するよう取り組んでいる」とし、24時間以内に詳細を公表するという。
一方、米メディアのAxiosによると、指令はハワード・ラトニック商務長官がダリオ・アモデイCEOに宛てた書簡として送られた。政権当局者は同メディアに対し、別の企業がMythosのジェイルブレークに成功したと主張したことを受けた措置だと説明。政権はAnthropicに新モデルの公開延期を求めたが実現しなかったといい、米政府の安全保障体制が強化されるまでモデルの停止が必要で、体制の強化は数週間以内に実現する可能性があると述べたという。
Fable 5は10日に一般公開されたばかりで、3日での全面停止となる。なお、編集部で確認した限り、執筆時点(13日午前10時50分)ではFable 5へのアクセスは可能となっている。どのタイミングで利用不可となるかは現時点では不明だ。
Copyright © ITmedia, Inc. All Rights Reserved.
本記事は制作段階でChatGPT等の生成系AIサービスを利用していますが、文責は編集部に帰属します。
この記事の著者
関連記事
こんなメディアも見られています
ITmedia NEWSに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
本日の新着記事
アクセスランキング
-
1
「うんこ移植」でピーナツアレルギー改善、15人中6人が数粒食べられるように ヒトの実証は初 Science系列誌掲載
-
2
「就活に生成AI利用」ほぼ全員に 面接で内容追及され困惑も
-
3
OpenAI、次期モデル「Astra」の一部開発を停止 「Critical」級サイバー能力の可能性否定できず
-
4
農水省の“クソダサ”ポスター話題 「AIよりよっぽど良い」の声も 担当者に狙いを聞いた
-
5
防衛装備庁、ITコンサルSHIFTに「AI装備品」の審査支援を委託
-
6
ドコモ・バイクシェアのシステム障害、いまだ全面復旧ならず 8月1日以降の利用者には「全額返金」へ
-
7
Gmail、他社メアドを送信元にできる機能を廃止へ
-
8
西鉄福岡(天神)駅などで意図しない駅構内放送 第三者が有名YouTuberの音声を不正に流したか
-
9
死んだ個体と交尾するイノシシ、東京農工大などが記録 有蹄類で初 白骨化も見届ける
-
10
「配信システムをAIで自作したアイドル」こと宮本佳林さん、Cloudflare Workersの開発者イベントに登壇へ
ITmedia NEWS SNS
インフォメーション
注目情報をチェック
ITmediaNEWSをフォロー
あなたにおすすめの記事PR