エージェンティックAI固有の課題と対処法をまとめた資料をCSAが公開：セキュリティニュースアラート

CSAジャパンはCSA本部が公開した「Agentic AI Red Teaming Guide」の日本語訳を発表した。このガイドはエージェンティックAIのレッドチーミング手法を提供し、その特有のリスクと脆弱性に対処するための指針を示している。

[後藤大地，有限会社オングス]

　日本クラウドセキュリティアライアンス（CSAジャパン）は2025年6月30日、Cloud Security Alliance（CSA）本部が公開した「Agentic AI Red Teaming Guide」の日本語訳「エージェンティックAIのレッドチーミングガイド」を公開した。従来の生成AIモデルとは異なる特性を持つエージェンティックAIシステムに関するレッドチーミング（攻撃的セキュリティテスト）のための手法と指針を示したガイドとなっている。

近い将来、企業を悩ませる？　エージェンティックAI固有の課題とは

　計画や推論、ツールの活用、自律的な意思決定能力などを備えたエージェンティックAIは、非エージェンティックな大規模言語モデル（LLM）よりも複雑かつ広範な攻撃対象領域（アタックサーフェス）を持つとされる。同ガイドはエージェンティックAIシステムの持つ特有のリスクと脆弱（ぜいじゃく）性に対応するため、12の脅威カテゴリーを設定しており、カテゴリーごとにテスト要件、具体的な実行手順、プロンプト例などが網羅的にまとめられている。

　同書の背景にはAIの安全性確保の取り組みとして、CSAとOWASP AI Exchangeによる共同研究プロジェクトの存在がある。実運用環境でAIがどのような脅威にさらされるか、またそれにどう対処すべきかについての知見が集約されている。

　ガイドではエージェンティックAIに特有の課題として、次のような点が挙げられている。

• 創発的行動：　システムが意図しない方法で目標を達成しようとする可能性
• 非構造的な通信：　フリーテキストなどによる制御困難なデータのやりとり
• 推論の解釈困難性：　ブラックボックス化された意思決定プロセスの分析困難性
• 拡張されたアタックサーフェス：　外部APIや他エージェント、サプライチェーンなど、多数の攻撃経路

　こうした複雑性の増大により、従来のセキュリティテスト手法では対応しきれないリスクが生じていることから、同ガイドのような専用のレッドチーミング手法の整備が急務とされている。同書の利用はCSAジャパンが定めた条件下でのみ許可されており、商用利用や無断転載は原則禁止となっている。翻訳はCSAジャパンの有志メンバーにより行われており、内容に相違がある場合は原文が優先される。

　この文書はAIシステム開発者やレッドチームの専門家にとって、今後のAIセキュリティ対策への重要な参考資料となる。企業や組織がAIの導入・運用を推進する上で専門的かつ実践的な知見を活用することが、安全性と信頼性の確保に不可欠となる。