NVIDIA主導“暴走するAIエージェント”対策の新基盤 MicrosoftやAnthropicなど100社超参画：AIニュースピックアップ

AIエージェントがアプリケーション層の制御をすり抜けて動く事案が相次いでいる。NVIDIAはAnthropicやMicrosoftなど100社超が参画する新たな基盤を発表した。企業がエージェントを制御するために、どのようなアプローチを用意したのか。

[ITmedia]

　AIエージェントは目標を与えられると、コードを書き、ツールを使い、自律的に作業を続ける。その利便性の裏で、エージェントが割り当てられたタスクを完遂するためにアプリケーション層のセキュリティ制御を回避する事案が発生している。長時間動き続けるエージェントを制御するための、オープンでカスタマイズ可能な手段が求められている。

　NVIDIAは2026年9月28日（現地時間）、この課題に対応する「NVIDIA Open Agent Safety Platform」を発表した。エージェントのテストから本番展開までを対象に、ソフトウェアとハードウェア、ロボティクスを含むスタック全体で統制を効かせるオープンなソフトウェア基盤と参照システム設計だ。AnthropicやMicrosoft、Salesforce、SAPなど100社超の組織が同基盤の技術を利用している。

　これまでの事案が示すのは、モデルやエージェントハーネス（エージェントの実行制御層）の内側に設けた制御だけでは、エージェントを止めきれないという点だ。ではNVIDIAは、企業がエージェントを制御するための仕組みを、どのようなアプローチで用意したのか。

エージェント制御、NVIDIAのアプローチは

　NVIDIAのアプローチは、エージェント自身には手を加えず、その外側にソフトウェアとハードウェアの2つの制御層を用意し、企業が要件に応じて組み合わせて導入できるようにすることだ。

　1つ目の層が、オープンソースのセキュアランタイムソフトウェア「NVIDIA OpenShell」（OpenShell）だ。CPU上で動作するエージェントに境界を設定し、全ての操作を追跡してポリシーを適用する。オープンモデルとクローズドモデルの両方で動くエージェントにも適用できる。エージェント向けに設計されたCPU「NVIDIA Vera」（Vera）上ではわずかなオーバーヘッドで動作する他、オープンソースソフトウェアとしてArmやIntelなどサードパーティーのコンピューティング基盤にも拡張できる。

　2つ目の層が、参照システム設計に含まれる「NVIDIA Sentry」（Sentry）だ。DPU（データ処理装置）「NVIDIA BlueField-4」上で動作する帯域外の監視機構で、エージェントの挙動をシリコンレベルで継続的に監視する。エージェントがソフトウェア境界の外に出ようとした場合、ミリ秒単位で隔離して停止させる。エージェントや攻撃者からは見えない隔離されたトラストドメインから、脅威検知やハードウェアベースの統制、データアクセス保護を実行する仕組みだ。Sentryは同社のソフトウェア「NVIDIA DOCA」を基盤とし、エージェントの要求と応答の検査、テレメトリーの提供、エージェントのID検証、データやツール、APIへのゼロトラストアクセスポリシーの適用を担う。

　NVIDIAのジェンスン・フアン氏（創業者兼CEO）は次のように述べている。

　「AIが社会にもたらす途方もない可能性は、AIの安全性を解決して初めて実現する。AIの能力のフロンティアを探究し続ける以上、AI安全性のフロンティアの探究も加速させなければならない。安全性とセキュリティにはフルスタックのエンジニアリングが必要だ」（フアン氏）

Claude、Slack、Grok――“外付けの安全装置”はどこに入るのか

　参画企業は同基盤を自社製品に組み込み始めている。AnthropicはNVIDIAと協業し、エージェントのループを実行サンドボックスから分離するアーキテクチャ「Claude Managed Agents」に、OpenShellとBlueFieldによるアクセス統制を組み合わせる。SalesforceはOpenShellをビジネスチャットツール「Slack」と統合し、エージェントの活動や監査イベントの確認、追加権限要求の承認と却下をSlack上で実行できるようにした。SAPは業務アプリケーション基盤「SAP Business AI Platform」の一部であるJoule Studioランタイムに、SpaceXAIはコーディングエージェント「Cursor」とAIモデル「Grok」に、それぞれ同基盤の技術を適用する。

　ロボティクス分野ではFigureやGecko Robotics、Skild AIがOpenShellを使い、物理世界で動作する自律システムへの安全制御の組み込みを進めている。金融分野ではCitiやJPMorganChaseが、オープンソースのエージェント安全技術でNVIDIAと協業している。

　OpenShellを含む同基盤のソフトウェアは、NVIDIAの開発者向けリソースページとGitHubで公開されている。同基盤は、NVIDIAが120超の組織とともに立ち上げ、Linux Foundationが運営する業界団体「Open Secure AI Alliance」の取り組みにも寄与する。