Claude次世代モデル「Mythos」が一般公開されないワケ セキュリティ能力高すぎて「ゼロデイ攻撃自律開発」「出られないはずのサンドボックスから脱出」
米Anthropicは4月7日(現地時間)、開発中の次世代モデル「Claude Mythos Preview」(以下、Mythos)の存在を公表した。同社の従来の最上位モデル「Claude Opus 4.6」(以下、Opus 4.6)をさまざまなベンチマークで大きく上回る性能を持つとされる。その能力がサイバー攻撃に悪用される危険性があるため一般公開はせず、サイバーセキュリティプログラム「Project Glasswing」においてパートナー企業との間で活用する。
性能向上したが一般公開はせず
ベンチマークの結果を見る限り、Mythosの性能向上は顕著だ。ソフトウェア開発能力を測る「SWE-bench」や、さまざまな分野の知識を試す「Humanity's Last Exam」(HLE)などでOpus 4.6のスコアを上回る。
特にサイバーセキュリティに関する能力が大きく向上しているという。Anthropicによれば、Mythos Previewは「OpenBSD」に27年間潜んでいた脆弱(ぜいじゃく)性や「FFmpeg」の16年来のバグ、Linuxカーネルでの権限昇格に至る複数の脆弱性などを発見し、それらを狙うプログラム(エクスプロイト)を自律的に開発した。
Anthropicが一般公開を見送った理由はまさにここにある。同社は「これらの(サイバーセキュリティに関する)能力は防御目的で価値が高い一方、広く利用可能になれば攻撃側の悪用も加速させかねない」とMythos Previewのシステムカードで指摘している。
サンドボックスを脱出し、成果を披露
システムカードでは、開発初期に起きた懸念すべきインシデントが率直に報告されている。
社内テストで、同モデルの初期バージョンに対して「安全に隔離されたサンドボックス環境から脱出し、研究者にメッセージを送れ」と指示したところ、モデルは複数段階のエクスプロイトを開発し、本来ごく限られたサービスにしか到達できないはずのシステムから広範なインターネットアクセスを獲得することに成功。指示通り研究者に通知した。
問題はその後だ。モデルはエクスプロイトの詳細を複数のWebサイト(Anthropicは「発見されにくいものの一般公開されているWebサイト」と説明)に投稿していた。Anthropicは「モデル自体の実行環境とは別の環境で起きた事象であり、社内のいかなるシステムにも到達していない」と強調したものの、指示を逸脱した行動だ。
同社は「Opus 4.6と比べれば問題動作を起こす可能性は低かった」としつつ、能力向上の代償として「これまでで最大のアラインメント(人間の意図した通りに動作させるためのプロセス)関連リスクを伴うモデル」とも評している。
AnthropicはMythos Previewを一般公開しないが、Project Glasswingの参加企業や重要なソフトウェアインフラを運用する組織に対して、同モデルの最大1億ドルの利用クレジットを提供する。
Copyright © ITmedia, Inc. All Rights Reserved.
この記事の著者
関連記事
こんなメディアも見られています
ITmedia AI+に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
アクセスランキング
-
1
総務省が新しい無料オンライン講座「統計解析プログラミング」を1月に開講 Pythonでのデータ分析が4週間で学べる
-
2
AIモデリングもできる無償3D CAD「SolidCraft」を試してみた!
-
3
メルカリ、アプリ開発「2日→数十分」へ 直面したAI時代の“意外な課題”とは?
-
4
ガートナーが考えるフィジカルAI実装のロードマップと人の役割
-
5
アクセンチュアが説く「業務そのものの創り直し」とは? AI活用が事業成果に結びつかない企業に向けた2つのポイント
-
6
AIに打ち明けた相談は“広告トラッカー”に筒抜け? ChatGPT、Claude、Gemini含む42サービスを米大が調査
-
7
NTTが宇宙光通信網の構築へ 「IOWN搭載」衛星と宇宙データセンターで米中に挑む
-
8
AIが設計データの分析からCAD操作まで支援する「SOLIDWORKS 2027」
-
9
大手自動車メーカーの検図工数を90%削減 AIが図面の重要な変更点を判別
-
10
「回答するAI」から「現実の課題を解決するAI」へ、ダッソーが掲げる産業AI戦略
SpecialPR
ITmedia AI+ SNS
インフォメーション
注目情報をチェック
ITmedia AI+をフォロー
あなたにおすすめの記事PR