AIエージェントの誤作動は誰の責任か 仕様を作る側と使う側の「責任分界点」：ITニュースピックアップ

AIエージェントの安全対策は、どこまでを業界共通の仕組みで賄えるのか。AIエージェント同士をつなぐ仕様を策定するLinux Foundation傘下の団体が、記者説明会でその境界を示した。企業側に残る範囲はどこからか。

[松林沙来，ITmedia]

　単体で動くAIエージェントは、既に企業の本番環境で稼働している。次の段階として構想されているのが、エージェント同士が相互に接続し、ベンダーやツールの境界を越えて連携する仕組みだ。

　連携の範囲が広がるほど、権限、監視、制御の線引きが必要になる。国内企業の現場でも、複数のAIエージェントが連携する際の信頼境界の定義、承認プロセスや監査ログの組み込み、エージェントが出力した成果物の検証といった要求が生じている。

　こうした要求に応える手段として、特定のベンダーに属さない共通仕様の整備が進む。AIエージェントと外部のツールやデータをつなぐ「Model Context Protocol」（MCP）はその代表例だ。ただし、共通仕様がどこまでを引き受け、導入企業がどこから自ら設計しなければならないのか、その境界は明確でない。

　MCPなどの共通仕様を策定するAgentic AI Foundation（以下、AAIF）は2026年8月25日、記者説明会を開き、この境界について説明した。

ガードレールの責任は誰が持つのか？

　AAIFは、精度やセキュリティに関する仕様を無償で提供する一方、実際の運用と最終的な管理責任はユーザー企業側にあるという線引きを示した。

　AAIFのマニック・スルタニ氏（共同創設者兼CTO《最高技術責任者》）は、LLMの進化によってハルシネーションの発生確率は以前より下がっていると説明する。ただし現時点では、導入する企業が自社固有のガードレールを設計して適用することを推奨するとした。

　仕様側の受け皿として、AAIFは「精度と信頼性」のワーキンググループを設けている。ここにはCisco、IBM、Huawei、日立製作所のエンジニアが参加し、エージェントの精度向上とガードレールの標準仕様を共同で開発している。それでも運用段階に入れば、自社業務に合わせたエージェントの管理とデバッグは各社が担う。

　機密データの外部流出については、2つのアプローチを示した。

　一つは、エージェントのスタック全体を自社環境に閉じる方法だ。AAIFが手掛けるプロトコルや技術、そして多くのLLMはオープンソースであるため、インフラからモデル、エージェント層までを外部のAPIに接続せずに構築できる。データを1件も外部に送らない構成が取れる。

　もう一つは、全てのレイヤーでセキュリティを管理する方法だ。漏えいリスクは特定の層に限定されず、スタックのどこでも起こり得る。エージェント基盤に当たるレイヤー4では、アクセス権限管理、ユーザー認証、ガードレールの実装を標準仕様として保証することでリスクを抑える。

　ただしAAIFは、技術的に全ての漏えいを防ぐ手段はないとした。そのため実務で重要になるのが、流出や異常な挙動が起きた際にそれを早期に検知し、エージェントが自律的に遮断などの防御動作を取れるようにすることだ。この自律的な検知と防御の標準化には、AAIFで担当のワーキンググループが取り組んでいる。

　運用コストについても線引きは変わらない。ガードレールが機密性を判定するには、どのデータが機密に当たるかを示すメタデータを保持し、更新し続ける必要がある。スルタニ氏は、運用オーバーヘッドが生じることを認めた上で、画一的な解はないと述べた。機密データの定義や機密性の度合いが企業ごとに異なるためだ。

　AAIFの「セキュリティとプライバシー」ワーキンググループには、Google、Microsoft、Red Hat、日立製作所のエンジニアが参加し、ガードレールの設計パターンやメタデータの管理手法を議論している。成果は共通のソフトウェア基盤や標準仕様としてオープンソースで提供し、1社がゼロから開発と保守を抱える負担を減らす。ただし、それをどうデプロイし、日々の運用業務に落とし込むかは各社の裁量だ。

AAIFは8つの技術ワーキンググループを設けている（出典：Agentic AI Foundationの投影資料）

競争の主戦場はどこになるか

　AAIFは、Linux Foundation傘下のオープンソース団体として2025年12月に設立された。MCP、goose、AGENTS.md、agentgatewayなどを創設プロジェクトとして抱え、プラットフォームを越えてエージェントの相互運用性を実現するための標準とプロトコルを策定、管理している。

　AAIFはAIのエコシステムを5つのレイヤーに整理し、このうちエージェント基盤に当たるレイヤー4に注力する。ハードウェアからモデルまでのレイヤー1〜3は、CNCFやPyTorch、LF AI & Dataといった既存団体が担う。スルタニ氏は、レイヤー4がベンダーロックインのリスクが最も高い領域だと説明した。

　Linux Foundationの福安徳晃氏（日本担当バイスプレジデント）は、日本企業がこの層の仕様策定に関与する意味を語った。インフラからエージェント層までオープンソースが主流になった結果、クローズドなまま残るのはデータの層だけになる。技術要素はコモディティ化し、それ単体では長期の競争優位につながらない。競争の主戦場は、自社が持つデータの活用と価値の最大化へ移る。

技術要素のオープン化が進み、クローズドなまま残るのはデータの層だという（出典：Agentic AI Foundation）

　モデルの規模を競う競争では、年間で兆円規模の投資を続ける米国や中国の巨大企業と渡り合うのは難しい。一方、日本の製造業の現場には品質の高いデータが蓄積されている。小型や中型のオープンモデルと自社データを連携させて現場の課題を解く方式であれば、資金力ではなく現場データとドメイン知識の勝負になる。

　ただし、共通仕様が自社のデータ構造やセキュリティ要件と最初から合致するとは限らない。自社が保有するデータの形式が世界共通の仕様と適合しない、求めるエンタープライズ向けのセキュリティ要件に対して仕様が不足している、といったギャップが生じる。このギャップを埋めるために、自社の要件を仕様の側に組み込んでもらう。福安氏はこれを戦略的な投資領域と位置付ける。仕様に自社の要件が入れば、他社がその前提に合わせることになり、日本企業のスイッチングコストも下がる。

　「エージェント・プロトコルレイヤーに主体的に投資し、世界的なルールを日本企業がリードして作っていかなければならない」（福安氏）