「Claude Fable 5」「Mythos 5」全面停止 米政府の指令により Anthropicは早期復旧を宣言
米Anthropicは6月12日(現地時間)、最上位AIモデル「Claude Mythos 5」と、Mythos 5に保護機能を実装した「Claude Fable 5」の提供を全ユーザーで停止すると発表した。米政府が安全保障上の権限に基づき、外国籍者による両モデルへのアクセスを全て停止するよう求める輸出規制指令を出したため。他のモデルは影響を受けないとしている。
同社によると、指令は同日午後5時21分(米東部時間)に書簡で届いた。米国内外を問わず、同社の外国籍従業員を含む全ての外国籍者のアクセス停止を求める内容で、順守するには両モデルを直ちに無効化するしかなく、結果として全顧客が利用できなくなったと説明している。
政府はFable 5の保護機能を回避する「ジェイルブレーク」(脱獄)の手法を把握したという。Anthropicが指令の根拠とみられる報告を検証した結果、見つかるのは少数の既知の軽微な脆弱性にとどまり、同等の能力は米OpenAIの「GPT-5.5」など他の公開モデルでも広く得られると主張している。
また同社は、公開前の数週間に米政府や英国のAI評価機関(UK AISI)、複数の民間第三者機関などと協力し、計数千時間に及ぶ保護機能の検証(レッドチーム演習)を実施したと説明。保護機能を広範に無効化できる「ユニバーサルジェイルブレーク」を発見できたテスターはおらず、特定の状況でのみ通用する限定的な回避が残り得ることは公開時に明言済みだったとしている。
そのうえで同社は、指令に従って両モデルへのアクセスを遮断する一方、「限定的な潜在的ジェイルブレークの発見が、数億人に展開された商用モデルを回収する理由になるべきだという考えには同意しない。この基準が業界全体に適用されれば、全てのフロンティアモデル提供者による新たなモデルの展開は事実上止まる」と反論。「これは誤解だと考えており、可能な限り早くアクセスを復旧するよう取り組んでいる」とし、24時間以内に詳細を公表するという。
一方、米メディアのAxiosによると、指令はハワード・ラトニック商務長官がダリオ・アモデイCEOに宛てた書簡として送られた。政権当局者は同メディアに対し、別の企業がMythosのジェイルブレークに成功したと主張したことを受けた措置だと説明。政権はAnthropicに新モデルの公開延期を求めたが実現しなかったといい、米政府の安全保障体制が強化されるまでモデルの停止が必要で、体制の強化は数週間以内に実現する可能性があると述べたという。
Fable 5は10日に一般公開されたばかりで、3日での全面停止となる。なお、編集部で確認した限り、執筆時点(13日午前10時50分)ではFable 5へのアクセスは可能となっている。どのタイミングで利用不可となるかは現時点では不明だ。
Copyright © ITmedia, Inc. All Rights Reserved.
本記事は制作段階でChatGPT等の生成系AIサービスを利用していますが、文責は編集部に帰属します。
この記事の著者
関連記事
こんなメディアも見られています
ITmedia NEWSに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
本日の新着記事
アクセスランキング
-
1
「Xが情報収集に役立たない……」熊本地震で不満の声続出 「Twitterを返して」
-
2
メルカリ、梨の転売疑惑に「盗品の出品は確認されず」 誹謗中傷には利用制限も
-
3
「こんなのに追われたら……」急斜面もやすやす爆走、中国製の車輪付き四足ロボのデモ動画が話題 最高時速20km超
-
4
検索結果に「詐欺ではありません」と表示させる詐欺手口、警視庁が注意喚起 AI要約も餌食に
-
5
はてな、11億円流出の調査報告書を公開 偽警察、口外禁止、残業・休出200時間超、孤立……ほころびが連鎖
-
6
Z世代に聞く次の流行、「AIイラスト」が1位に 「Claude Code」も上位
-
7
東野圭吾さん死去、Xなどで追悼相次ぐ 「ガリレオ」など数々の人気作、エンジニアから転身
-
8
NVIDIAやMicrosoftなど30社超、オープンAIの防御ツール共同開発の「Open Secure AI Alliance」設立
-
9
農水省の“クソダサ”ポスター話題 「AIよりよっぽど良い」の声も 担当者に狙いを聞いた
-
10
「あ、その情報メモしたい!」を叶えるワイヤレスイヤフォン、Nothing「Ear (3a)」
ITmedia NEWS SNS
インフォメーション
注目情報をチェック
ITmediaNEWSをフォロー
あなたにおすすめの記事PR