NVIDIAやMicrosoftなど30社超、オープンAIの防御ツール共同開発の「Open Secure AI Alliance」設立

NVIDIAやMicrosoft、SpaceXAIなどは、AIオープンモデルの安全性向上とサイバーセキュリティツール開発を目指すイニシアチブ「Open Secure AI Alliance」を設立した。オープンな技術を活用してソフトウェアの脆弱性修正や防御ツールの共同開発を推進し、過度な規制に対する防御資産としての重要性を主張する。

[ITmedia]

　米NVIDIAは7月27日（現地時間）、米Microsoftや米SpaceXAIなど30社以上と協力し、AIのオープンモデルに焦点を当てた安全性向上とサイバーセキュリティツールの開発に取り組むイニシアチブ「Open Secure AI Alliance」を設立したと発表した。Linux Foundationの「Akrites」イニシアチブとOpenSSFコミュニティの取り組みを土台に、オープンな技術を使ってソフトウェアの脆弱性の修正と開示に取り組むとしている。

　NVIDIAは設立の背景として、米Hugging Faceが7月16日に公表したセキュリティインシデントに言及し、これがサイバー防御側が自己防衛のためにオープンで最先端のエージェントシステムを必要としていることを明確に示したと主張した。Hugging Faceによると、クローズドな商用API経由のフロンティアモデルでは、攻撃コマンドやエクスプロイト用ペイロードを大量投入する解析が安全ガードレールによって阻止されたため、オープンウェイトモデル「GLM 5.2」を自社インフラ上で実行して解析を完了させたという。

　GLM 5.2は、中国Z.aiが6月にMITライセンスで公開したオープンウェイトモデルだ。米商務省傘下のCAISIは、GLM 5.2は「公開時点では、おそらく最も高性能なオープンウェイトモデル」と評価している。

　Open Secure AI Allianceの創設パートナーには、NVIDIA、Microsoft、IBM、米Red Hat、米Cisco、米Cloudflare、米CrowdStrike、米Palo Alto Networks、米Palantir、米Adobe、米Salesforce、米Dell Technologies、米Snowflake、米Databricks、Hugging Face、韓NAVER、韓SK Telecom、独SAP、独Siemens、SpaceXAI、米Thinking Machines Labなど30社以上と、Linux Foundationが名を連ねる。

創設パートナー（画像：NVIDIA）

　NVIDIAは公式ブログで「米国とそのパートナーは今、AIセキュリティで選択を迫られている。インフラを守る防御策が、少数の不透明なシステムの中に収まるのか、それとも、あらゆる防御側が検証し、適応させ、展開できるオープンなモデルやハーネス、ツールの上に築かれるのか、という選択だ」と述べた。オープンモデルも他の強力な技術と同様に、安全対策の弱体化やサイバー攻撃への転用といった悪用の恐れはあるとしつつ、そのリスクはオープンなシステムに固有のものではなく、高度なAIが展開される場所ならどこでも管理すべきものだとしている。

　参加各社はエージェント向けのオープンな防御スタックを構築する。NVIDIAはオープンモデルやデータを提供するほか、研究フレームワーク「NVIDIA Labs Object-Oriented Agent」（NOOA）をGitHubで公開した。また、Hugging Faceはモデルの重みを安全に保存する形式「Safetensors」をPyTorch Foundationに移管する。Microsoftは複数のAIエージェントを連携させてバグを検出するスキャンハーネス「MDASH」を、IBMとRed Hatはサプライチェーンを保護する「Lightwell」を、HPEは暗号技術で検証する「SPIFFE/SPIRE」をそれぞれ提示した。SpaceXAIはターミナルベースのAIコーディングエージェント「Grok Build」をオープンソース化しており、将来的にはGrokシリーズのモデルの重みも公開する計画という。

　NVIDIAは政策立案者や規制当局に対し、オープンなモデルやハーネス、セキュリティツールをリスク要因ではなく防御資産として位置付けるよう求めた。オープンなフロンティアAIシステムへの一律の制限は防御能力を弱め、少数のクローズドなプロバイダーに権力と依存、脆弱性を集中させるリスクがあるとしている。

　Open Secure AI Allianceの設立は、オープンウェイトAIを防御資産として位置付ける業界全体の動きを具体化したものともいえる。NVIDIAやMicrosoftなどは24日に公表した共同声明「Open Weights and American AI Leadership」で、オープンウェイトモデルは安全性やサイバー防御、イノベーションを強化する重要な基盤であると主張しており、今回のAllianceはその考え方を実際のツールやフレームワークの共同開発へ発展させる取り組みと位置付けられる。