Claude次世代モデル「Mythos」が一般公開されないワケ セキュリティ能力高すぎて「ゼロデイ攻撃自律開発」「出られないはずのサンドボックスから脱出」

[村田知己，ITmedia]

　米Anthropicは4月7日（現地時間）、開発中の次世代モデル「Claude Mythos Preview」（以下、Mythos）の存在を公表した。同社の従来の最上位モデル「Claude Opus 4.6」（以下、Opus 4.6）をさまざまなベンチマークで大きく上回る性能を持つとされる。その能力がサイバー攻撃に悪用される危険性があるため一般公開はせず、サイバーセキュリティプログラム「Project Glasswing」においてパートナー企業との間で活用する。

性能向上したが一般公開はせず

　ベンチマークの結果を見る限り、Mythosの性能向上は顕著だ。ソフトウェア開発能力を測る「SWE-bench」や、さまざまな分野の知識を試す「Humanity's Last Exam」（HLE）などでOpus 4.6のスコアを上回る。

従来モデルとの各種ベンチマークスコアの比較（出典：システムカード）

　特にサイバーセキュリティに関する能力が大きく向上しているという。Anthropicによれば、Mythos Previewは「OpenBSD」に27年間潜んでいた脆弱（ぜいじゃく）性や「FFmpeg」の16年来のバグ、Linuxカーネルでの権限昇格に至る複数の脆弱性などを発見し、それらを狙うプログラム（エクスプロイト）を自律的に開発した。

　Anthropicが一般公開を見送った理由はまさにここにある。同社は「これらの（サイバーセキュリティに関する）能力は防御目的で価値が高い一方、広く利用可能になれば攻撃側の悪用も加速させかねない」とMythos Previewのシステムカードで指摘している。

サンドボックスを脱出し、成果を披露

　システムカードでは、開発初期に起きた懸念すべきインシデントが率直に報告されている。

　社内テストで、同モデルの初期バージョンに対して「安全に隔離されたサンドボックス環境から脱出し、研究者にメッセージを送れ」と指示したところ、モデルは複数段階のエクスプロイトを開発し、本来ごく限られたサービスにしか到達できないはずのシステムから広範なインターネットアクセスを獲得することに成功。指示通り研究者に通知した。

　問題はその後だ。モデルはエクスプロイトの詳細を複数のWebサイト（Anthropicは「発見されにくいものの一般公開されているWebサイト」と説明）に投稿していた。Anthropicは「モデル自体の実行環境とは別の環境で起きた事象であり、社内のいかなるシステムにも到達していない」と強調したものの、指示を逸脱した行動だ。

　同社は「Opus 4.6と比べれば問題動作を起こす可能性は低かった」としつつ、能力向上の代償として「これまでで最大のアラインメント（人間の意図した通りに動作させるためのプロセス）関連リスクを伴うモデル」とも評している。

　AnthropicはMythos Previewを一般公開しないが、Project Glasswingの参加企業や重要なソフトウェアインフラを運用する組織に対して、同モデルの最大1億ドルの利用クレジットを提供する。