Anthropic、AIによる脆弱性対策「Project Glasswing」立ち上げ Apple、Microsoft、Googleなどが参加

[ITmedia]

　米Anthropicは4月7日（現地時間）、高度なAIがソフトウェアの脆弱性発見と悪用の両方を自動化し得る状況を踏まえ、世界の重要なソフトウェアの安全性を高める取り組み「Project Glasswing」を発表した。Amazon Web Services（AWS）、Apple、Broadcom、Cisco、CrowdStrike、Google、JPMorganChase、Linux Foundation、Microsoft、NVIDIA、Palo Alto Networksなどの企業や組織が参加を表明している。

　このプロジェクト名は、透明な羽で景色に溶け込む蝶「Glasswing butterfly」（日本名：ツマジロスカシマダラ）にちなんだという。同社のジャレッド・カプランCSO（最高科学責任者）は米The New York Timesに対し、複雑なシステムの中に誰にも見つからずに存在する脆弱性を、この蝶が景色に溶け込んで隠れる様子に例えたと説明した。Anthropicの公式ブログでは、透明性のメタファーとしても位置づけている。

　このプロジェクトの中核を担うのは、Anthropicが開発した未公開のAIモデル「Claude Mythos Preview」だ（Mythos（ミトス）は古代ギリシャ語で「発話」や「物語」を意味する言葉に由来する）。同社によると、このモデルは熟練した専門家を上回る水準でソフトウェアの脆弱性を発見し、さらにそれを悪用するエクスプロイトの設計にも対応できるサイバーセキュリティ能力を備えるという。実際に、人間のレビューや自動テストを長年すり抜けてきた欠陥を自律的に発見しており、例えば「OpenBSD」では、接続するだけで対象マシンを遠隔からクラッシュさせ得る27年間未発見だった脆弱性を特定したとしている。こうした脆弱性については、公開や悪用を防ぐ観点から、適切な修正や調整が行われた上で取り扱われるとしている。

　Anthropicは、このモデルを一般公開しない理由について、その攻撃能力が悪意ある第三者に渡るリスクを懸念点として挙げている。AIの進化により同様の機能の普及は避けられないとしつつも、十分なセーフガードが整備されない段階で公開すれば、サイバー攻撃の急増や国家安全保障上のリスクにつながる可能性があると説明する。このため、まずは信頼できるパートナーに限定して提供し、防御側に先行的な優位性を与える方針だ。提供先では、用途の制限や監査、出力制御などの安全運用の枠組みの下で利用される。

　参加企業はそれぞれの役割に応じてプロジェクトに関与する。AWSやGoogle、Microsoftなどのクラウド事業者は基盤提供や顧客環境での活用を担い、CrowdStrikeやPalo Alto Networksなどのセキュリティ企業は実運用における検知・防御技術の高度化に活用する。BroadcomやNVIDIAなどのインフラ関連企業も含め、各社は自社の基盤システムや重要ソフトウェアの脆弱性を洗い出し、修正につなげるとともに、得られた知見を業界全体で共有する役割を担う。

主な参加表明企業

　Googleは「Vertex AI」を通じて、プロジェクトの参加組織向けにMythos Previewを利用可能にしているとしており、Microsoftも自社の開発ソリューションの改善やリスク低減に活用しているという。CiscoやPalo Alto Networks、CrowdStrikeは、従来見逃されてきた複雑な脆弱性の特定と、攻撃者に先行する防御体制の構築に取り組んでいる。

　Anthropicはプロジェクト推進のため、パートナー企業や重要なソフトウェアインフラを担う40以上の組織に対し、最大1億ドル分のモデル利用クレジットを無償提供する。研究プレビュー期間終了後の価格は、100万入力トークン当たり25ドル、100万出力トークン当たり125ドルに設定されている。

　同社は今後90日以内に、本プロジェクトで得られた教訓や、開示可能な修正済み脆弱性の概要をまとめたレポートを公開する予定だ。また、次期「Claude Opus」で新たなセーフガードの検証を進め、将来的にはこうした高度なサイバーセキュリティ機能を安全に大規模展開できる体制の構築を目指すとしている。さらに中期的には、官民の関係者を集約した独立した第三者機関へと取り組みを移行する構想も示している。