「AIの暴走を止められない」 CISO座談会で見えたAIセキュリティの限界：セキュリティニュースアラート

企業がAI活用を急ぐ中、従来型の防御モデルでは対応しきれないリスクが浮上している。Darktraceが実施したCISOらとの座談会から見えてきた、AIエージェントの暴走やシャドーAIのまん延など5つの主要課題とは。

[ITmedia]

　AIを活用したサイバーセキュリティ製品を提供しているDarktraceは2026年6月30日（現地時間）、現代のCISOが直面するAI時代のセキュリティ課題に関する見解を明らかにした。

　企業がAI活用を急ぐ中、従来型の防御モデルでは対応しきれないリスクが浮上している。従来のセキュリティツールは固定ルールや予測可能な業務フローを前提に設計されてきたが、挙動が流動的なAI環境においては、一定の基準線を維持する従来の手法では追従が難しいのが現状だ。

　同社は、サイバーセキュリティの現場を統括するCISOらと座談会を実施した。急変する現場のリアルな懸念や「生の声」を基に、セキュリティリーダーたちが今まさに直面している「5つの主要課題」を挙げた。

「対応した時点で既に手遅れ」　AI時代のセキュリティ課題

　第1の課題は、人間並みのアクセス権を持ちながら人間の判断を持たないAIエージェントだ。

　Darktraceの2026年版AIサイバーセキュリティ報告書において、調査対象のセキュリティ専門家の96％が「AIによって作業速度と効率が大きく向上する」と答えた。だが92％は、職場でAIエージェントが使われることに伴うセキュリティ面の影響を懸念している。AIエージェントは複数のシステムで人間並みの権限を持ち、リアルタイムかつ自律的に行動し、複数のプラットフォームをまたいで処理を実行する。人間のように立ち止まり、行為の妥当性を判断するとは限らない。

　加えて、AIエージェントの識別や管理、監査は難しい。従来のITシステムよりも導入しやすい反面、企業はどのエージェントが稼働し、何にアクセスし、何を実行しているのかを把握しにくくなっている。金融分野のグローバルCISOは「AI活用は現代企業に不可欠だが、AIだけではサイバーセキュリティの課題を解決できず、人間の批判的思考と判断が必要だ」と述べた。

　このリスクはMCPのような新しいアーキテクチャの登場によってさらに高まっている。MCPは、エージェントがデータやツール、外部システムを動的に発見、連携する仕組みを拡張するものだ。柔軟性を高めるが、適切な統制がなければ、意図しないアクセスやデータ露出、不正利用の経路を増やす。ファンド管理会社のCISOは「開発者が事業価値を早く出そうとする中、悪意あるMCPサーバのような新たな経路が機密データを露出させる恐れ」を挙げた。

　第2の課題は、デジタル環境の複雑化と攻撃の拡大だ。AIの活動は単一システム内に収まりにくい。1つのプロンプトが、ネットワークやメール、クラウド、SaaS、エンドポイント、ID基盤、開発環境にまたがる処理をする。これらは本来、一つの連続した流れとして防御される前提で設計されたものではない。「可視化できない対象は守れない」とプライベートファンド管理会社のCISOは警告した。

　攻撃者もこの視界の欠落を利用している。生成AIによって、フィッシングやソーシャルエンジニアリング、個人単位まで精緻化された攻撃の自動化が進む。かつては人手で実行された標的型攻撃が、大規模かつ個別化された形で実行されるようになり、検知は困難さを増す。40カ国超で活動するグローバルCISOは、「ゼロデイ脆弱（ぜいじゃく）性はもはやゼロ日ではなく、対応時点では既に問題化している」と表現した。

　第3の課題は、シャドーAIの広がりだ。76％の組織がシャドーAIを問題として挙げている。従業員は公開された生成AIツールを試し、各部門は独自にローコードによる自動化をし、SaaS提供企業は既存製品にAIを組み込み、開発者はAIサービスを業務フローへ直接接続する。結果として、どのAIツールが使われ、どのデータにアクセスし、プロンプトや出力がどこへ送られ、どのAIエージェントが企業システムとやりとりしているのかが見えにくくなる。

　第4の課題は、組み込み型のガードレールだけでは不十分な点だ。企業はAI提供元の標準機能やネイティブな制御でリスクを抑えられると考えがちだが、AIの安全確保には導入時の設定だけでなく、継続的な可視性や監督、ガバナンスが必要だ。複数のAIシステムや業務フローにまたがる制御は断片化しやすく、ITやセキュリティ、開発者、事業部門、外部プロバイダーの間で責任範囲が曖昧（あいまい）になりやすい。初期プロンプトからエージェントの行動結果までを通した監視にも空白が生じる。

　第5の課題は、イノベーションの速度を落とさずにガバナンスを維持する新たな運用モデルの確立だ。AIを安全かつ責任ある形で大規模に導入するには、単に利用を制限するのではなく、AI特有の複雑な挙動を理解し、リアルタイムでリスクを特定できる能力が求められる。しかし、多くの組織では、加速するビジネスの革新スピードと、それに伴って進化する新たなリスクの双方にセキュリティ運用が追従しきれていない。

　こうした状況を受け、DarktraceはAIを安全に大規模活用するには、AIの挙動を理解し、リスクをリアルタイムで特定し、革新を妨げずにガバナンスを維持する新たな運用モデルが必要だと主張する。