AIに「端末遮断」を任せられるか 判断の根拠を支えるナレッジグラフ：大阪大学CISOとExaforce CEOが語る、AI時代の意思決定と説明責任
攻撃者は狙う対象とタイミングを選べる一方、防御側は組織全体を常時監視しなければならない。AIが攻撃の速度と量を押し上げる中、SOCは検知後の判断まで人手に委ねたままで対応できるのか。
攻撃者は、狙う対象とタイミングを選び、どこか1カ所の弱点を突けばよい。これに対して防御側は、いつ、どこから攻撃が来るか分からないまま、組織全体を常時見張る必要がある。生成AIは、手法の微妙な変更や探索を機械的に繰り返せるようにし、この攻守の非対称性をさらに広げようとしている。
セキュリティオペレーションセンター（SOC）にもAIが必要になる。しかし、問題は単に検知を速くすることではない。AIが「この端末を遮断すべきだ」と提案したとき、組織は何を根拠に、その判断を実行できるのか。誤って業務を止めた場合、誰が責任を負うのか。自動化が進むほど、意思決定と説明責任が新たなボトルネックになる。
2026年8月、Agentic SOCプラットフォームを提供するExaforceの創業者兼CEO、アンカー・シングラ氏と、大阪大学D3センター教授で同大学CISOを務める猪俣敦夫氏が対談した。攻撃者によるAI活用で防御側に何が求められるのか。判断を支援するAIと、その前提となる組織固有の文脈について議論した（以下、敬称略）。
攻撃者は一点を狙い、防御者は全体を守る
シングラ 攻撃側のコストは防御側に比べて低く、しかもAIの利用によってさらに低下しています。そこでわれわれは、人間のように思考するモデルを構築することで防御にかかるコストを抑えようと考えています。
大規模言語モデル（LLM）の登場によって、攻撃者は特定の手法を使い続けるのではなく、絶えず振る舞いを変化させ、ルールや行動分析といった従来の防御手法をかいくぐるようになりました。攻撃者と同じような戦略で、低コストで大規模に運用できるモデルをいかに構築するかに取り組んでいます。
防御側が負うこの負荷を、限られた人員でどう支えるのか。猪俣氏が現場の課題として挙げるのは、セキュリティ人材の不足だ。大阪大学では2017年に大規模な情報漏えい事故が発生した。大学はこれを受け、2018年度に従来の阪大CERTを全学組織のOU-CSIRTへ改組した。猪俣氏は2019年の着任後、その体制強化やルール整備、教育に携わってきた。
猪俣 私は、教員として学生指導に当たりながらCISOを務めています。その中で思うのは、やはり日本ではセキュリティ人材が不足しているということです。
シングラ 人手不足に関しては、AIの利用が一つの糸口になると考えています。
AIで検知が速くなっても、判断の根拠は欠かせない
猪俣 おっしゃる通り、AIによってスピードと量に関する課題は、おそらく解決の方向に向かうと思います。大量のログを人が解析し、ベンダーを経由して対処するという、これまでのプロセスの負荷がある程度軽減されると期待できます。ただし、そこでAIから提示された対策をそのまま実施できるかというと、話は別です。
結局は、組織トップの判断を求めざるを得ず、処理のスピードをはじめとするAIの良さが打ち消されてしまうのではないかと懸念しています。AIの価値はCSIRTやSOCの担当者レベルでは理解できます。しかし、経営層がその価値を理解し、組織全体として受け入れられるかというと、難しいと思います。
例えば、AIが「この端末の通信を遮断すべきだ」と提案してきた場合、日本企業は「なぜその判断を下したのか」という根拠を求めます。少なくとも私がこれまで見てきたAIは、トレーニングされたデータによる判断だというだけで、エビデンスを見せてくれません。そのような状況で、大学病院の命に関わるようなネットワークを遮断する判断を下せるかというと、やはりできないのが実情です。
この懸念を考える上で、Exaforceが公開しているのが、判断の根拠を利用者が確認できる仕組みだ。同社によると、各トリアージ結果にはそれぞれ具体的な判断理由、判断に用いた主な指標、関連するIDや資産、元のログや証拠へのリンクが付けられて上でダッシュボードで確認可能。したがって、担当者は要約だけでなく、調査に使われたデータやクエリまでたどり、判定の妥当性を検証できる。
では、その判断の土台となる情報をどう整えるのか。個々のログだけでは読み取れない状況を把握する上で、猪俣氏は経験を積んだアナリストの知識に注目する。
ナレッジグラフがログを「組織の文脈」に変える
猪俣 私は、セキュリティの運用においてはアナリストの経験が重要だと考えています。既知の攻撃であれば、ルールベースで検知できるものもあります。しかし今や攻撃者も積極的にAIを利用し、少しだけ手を加えた攻撃を生成できるようになっています。これらを本当にAIが検知できるかというと疑問が残ります。経験を積んで攻撃の流れを知るアナリストであれば、単に事象を把握するだけではなく、次に何が起こり得るかを予見できると思います。
シングラ そうですね。飛行機のオートパイロットにも対応できない場面があり、そこではやはり人間の判断が求められます。今のAIもそうした段階にあると思います。
では、人が経験から得てきた知識を、AIの判断にどう生かすのか。シングラ氏が説明したのは、人が情報同士の関係を結び付けて記憶し、状況を理解する仕組みだ。
シングラ 人間の脳は時間をかけて学習する中で、さまざまな情報を記憶するだけではなく、関係性の「メンタルマップ」を構築します。コンテキスト（文脈）を表すナレッジグラフを構築することで、人間と同じように素早く答えを返せます。われわれも、各企業固有のコンテキストや独自の知識を反映したナレッジグラフを構築するために、努力を費やしてきました。
Exaforceの公開資料では、イベントやID、権限、設定などをデータの取り込み時に結び付け、共通のナレッジグラフを構築する仕組みを説明している。検知、調査、対応を担うAIエージェントだけでなく、アナリストもこの文脈を利用する。ナレッジグラフ自体が結論を出すAIなのではなく、その上で動くAIや分析手法を、組織固有の文脈で機能させるための基盤という位置付けだ。
シングラ 例えば「クラウドに保存されているあるファイルが、プラハのIPアドレスからダウンロードされた」というログがあった場合、そのままでは正当な行動かどうかの判断は困難です。ここにナレッジやコンテキストを組み入れることで、「そのファイルを作成したのはCEOで、定期的にプラハに出張している担当者がダウンロードした。また、2人は上司・部下の関係にある」という具合に、そのログが何を表しているかを把握できるようになります。
猪俣 特定の人物のアクティビティーだけでなく、一つの組織に所属するさまざまなユーザーの関係性、役割や階層を、いかにマップとして作り上げるのか。これまで人の経験に頼っていた部分をどのように作成し、精度を高めるのか。これからの進化に期待したいところです。ナレッジグラフを実現できれば、現場のセキュリティ担当者にとってありがたいですし、経営層にも説明しやすいと思います。
この点について、Exaforceは公開資料で、個人だけでなく、同じ役割を持つユーザー群や組織全体と比較する行動分析を説明している。人事システムとの連携では、部署や役職、上司・部下の関係を、各システム上のIDに結び付ける。これらの情報やアクセス権、操作履歴を基に、業務上の役割に沿った行動かどうかを検討する仕組みだ。
例えば、本人には初めての接続元でも、組織内で日常的に使われていれば、異常という評価は変わり得る。同社の技術ブログでは、組織全体の情報を基に接続元への懸念を下げつつ、同時に起きた大量の設定ファイル削除は要注意として残した例を紹介している。
猪俣 組織を超えたコミュニティーでやりとりされている知識やスキル、知見をAIに生かせるのかどうかも気になります。ISACのような、信頼関係の上に成り立っているコミュニティーの知見をどうやって学習するのかもポイントでしょう。
シングラ 時間をかけて整理され、構築されてきた組織固有のデータを与えることができれば、AIもそれを理解できるでしょう。
この説明の前提は、公開情報から得た一般的な知識だけに頼るのではなく、各組織のデータを判断の土台にすることだ。Exaforceは、接続した企業環境から取得するログ、ID、権限、設定などを結び付け、組織固有のナレッジグラフを構築する。非公開の社内情報も、取得して利用できるデータであれば、この文脈を形作る材料になる。
既存のデータに記録されていない事情を補う経路もある。Exaforceは、組織固有のルールや業務上の事情を自然言語で登録する機能や、SlackやMicrosoft Teamsを通じて本人や上司に確認し、その回答を分析に反映する仕組みを公開している。共有できる知見を入力や確認のプロセスに組み込めば、ログだけでは見えない背景も判断材料に加えられる。
ただし、共有されていない事情や、言葉にし切れていない価値判断まで、システムが把握できるわけではない。こうした情報を人が補いながら、どこまでAIに判断や対応を任せるのか。シングラ氏は、自動車の運転支援を例に、段階的な進化を説明する。
「アシスト」から「自律」へ それでも責任は組織に残る
シングラ AIへの任せ方には段階があります。自動車でいえば、現在の多くは車線維持や加減速を助ける運転支援ですが、Waymoのように、一定の地域と条件の下で運転手のいないサービスを提供する例も出てきました。技術が十分に成熟すれば、人の関与の仕方は変わります。セキュリティも同じです。
セキュリティに関する意思決定には大きなリスクがあり、安易に判断を下して遮断してしまうと、製造現場や病院の稼働を停止させてしまう恐れがあります。ですから、今の時点でAIが果たすべき役割は、人間がより良い意思決定をより迅速に行えるように支援することです。
この「どこまで任せるか」は、製品の運用設計にも反映されている。Exaforceの公開資料によると、対応ワークフローには、人の承認を挟む処理と自律的に実行する処理を組み合わせられる。承認を求める条件は対応の影響やリスクなどに応じて設定し、承認者には判断に必要な文脈を提示する。判断と承認の履歴も記録される。自動化するかどうかを一括で決めるのではなく、組織が任せる範囲と、人が確認する範囲を定める設計だ。
シングラ 第一段階を通してデータを蓄積して進化すれば、AIが人間よりも優れた意思決定を下せる段階に到達すると期待しています。実際の攻撃データから学び、改善を繰り返すことで、AIモデルはより優れたものになるでしょう。あと3〜5年で、そうしたことが可能なAIモデルが実現すると考えています。
猪俣 やはり日本の組織においてポイントとなるのは、意思決定を下す際の「根拠」が得られるか、事故が起きたら誰が責任を取れるのかというところです。このままでは「AIの判断は誰の責任か」といった議論に帰着するばかりで、導入が進まない恐れもあります。日本でも、技術の進化に合わせて経営層の意識を変えなければなりません。
シングラ 米国でもAIの導入は、まだ人間の迅速な意思決定を支援する段階にとどまっており、人間を意思決定プロセスから完全に排除していません。責任は人間にあるということです。
むしろ新たな問題は、多くの人がむやみにAIに従い、得られた答えをそのまま実行してしまいがちだということです。だからこそ、膨大なデータの中から適切な意味を導き出し、人間がより良い意思決定を下す上でメンタルマップやナレッジグラフが重要だと考えています。AIを導入すればその瞬間から正しい答えが得られる、ということは絶対にありません。
根拠を示す機能は、責任ある判断を支えるものであり、責任そのものをAIへ移すものではない。記録されていない事情を補い、何を優先し、どのリスクを受け入れるかを決めるのは組織だ。データの不足や誤り、判断の不確実性も踏まえ、AIに委ねる範囲を見直していく必要がある。
AI時代のSOCに必要なのは、人を一足飛びに置き換えることではない。機械の速度で進む攻撃に追い付く自動化と、重大な判断を説明し、統制する仕組みを同時に作ることだ。ログの点を組織の文脈で結ぶナレッジグラフは、「人かAIか」という二者択一を超え、アシストから自律へ段階的に進むための基盤になり得る。
Copyright © ITmedia, Inc. All Rights Reserved.
関連リンク
提供：Exaforce Inc.
アイティメディア営業企画／制作：ITmedia エンタープライズ編集部／掲載内容有効期限：2026年11月4日
