脆弱性の物量に圧倒される前に 地殻変動の中だからこそ押さえておきたい3つの対策：AIがもたらすセキュリティのパラダイムシフト

フロンティアAIの登場で、検出される脆弱性の量は一気に膨れ上がった。全てをひとまとめに捉えれば、物量に圧倒されて手が止まる。限られた人員で対応を進めるために、企業はどの観点で対策を切り分ければよいのか。

[三好一久，日本タタ・コンサルタンシー・サービシズ]

この連載について

フロンティアAIの台頭がもたらす危機の真因は、脆弱性そのものではなく、それを容認してきたIT運用の仕組みや責任体制の未成熟さにある。本連載は、流行のキーワードに踊らされない冷静な視点から、「他産業に学ぶ制度設計」「ITとセキュリティの運用統合」「防御のAI化への分岐点」「ゼロデイを想定したレジリエンス」など、激変期を生き抜くためのアプローチを提示する。

　連載第1回では今IT業界が経験している大きな地殻変動、セキュリティにおけるパラダイムシフトについて述べ、第2回、第3回ではそれによる私たちの周辺のランドスケープの変化について触れた。繰り返すが、このような大きな環境の変化は業界にとって初めての体験で、これまで培ってきた経験則や常識が通用しなくなってくる。

　また、現実的な問題として、Anthropicの「Claude Mythos」（以下、Mythos）のようなフロンティアAIの脅威に対抗するには、考えなければならないこと、対策すべきことが非常に多い。しかし、何事もむやみに慌てるのではなく、しっかりとその影響を分析、予測しながら対処していきたいものだ。

　そこで今回は、より具体的な側面として現在最も議論となっている「脆弱（ぜいじゃく）性対策」に焦点を当てて大事な部分を整理しておきたい。Mythosが注目を浴びた理由でもあり、何よりも検出される脆弱性の量が膨大であるというのがやはり厄介だ。そこで全体を一緒くたに捉えてしまうと、物量に圧倒されてしまう。

　効率的に対応していくためにも、自社で押さえるべき観点を冷静に整理することが重要だ。ひとまず、大きく以下の3つに分類して考えると良いだろう。

• 大手ベンダーの製品に関する対策
• 自社開発システム、小規模ベンダーの製品に関する対策
• 未知の脆弱性、ゼロデイ攻撃への対応

1．大手ベンダーの製品に関する対策

　脆弱性の問題は、基本的に各製品ベンダーにとっても死活問題だ。そのため、グローバルの大手ベンダーから提供される製品については、各社が最先端のAIを駆使して徹底的に脆弱性を洗い出した上で、修正パッチを用意してくれるという前提に立ってよい。実際、既にその流れになってきている。

　そのため、ユーザー企業における課題は、市場における既知の脆弱性に関し、いかに早く確実に製品ベンダーからのアナウンスを収集できるか。そして、自社において該当するシステムがどこにどれくらいあるのかを整理した上で、いかに早く漏れなく修正パッチを適用するかがキーとなってくる。

　なおそのような情報収集や資産の整理が難しければ、脆弱性スキャナーのようなツールを積極的に広く活用していくべきだ。とにかく大事なことは、脆弱性は次から次へと見つかるので、単発のテストや定期的なスキャンでやった気になるのではなく、継続的に“みっちり”と実施し、素早く修正対応することだ。そのためには、継続的かつ迅速なプロセスの確立と人材リソースの手当てが必要となる。

2．自社開発システム、小規模ベンダーの製品に関する対策

　自社で開発するアプリケーションやサービスは自分たちで脆弱性を検出しなければならない。特にそれを第三者に提供するようなSaaS企業や製品ベンダーにとっては、いかに攻撃者より早く自分たちで未知の脆弱性に気付くかという点が、大きな課題となってくる。

　大きな負担となるが、自社で最先端のAIを駆使して対応すると同時に、専門的な第三者の支援も受けた方が良い。幸い、AnthropicのProject Glasswingの動向にかかわらず、Mythosと近しい性能のAIは既に他にも出てきている。また、OpenMythosのようなオープンソースツールも今後次々と出てくるので、手段はそれなりにあるだろう。

　これには、有効なツールや支援の選定と導入、きめ細かいDevSecOpsサイクルの確立、そして高度なセキュリティ人材が欠かせない。なお、自社開発でなくとも、小規模なベンダー製品を利用している場合は、大手のように最先端の手法で脆弱性検査がされていない可能性もあるので、自社での対策を検討すべきだ。

あまり意識されていないことだが、「狙われるシステムは、その普及率に比例する」というのが、われわれの暗黙知だった。これは、元来脆弱性というものが攻撃者から見たその悪用の容易性を基準とするものだからだ。しかし、脆弱性を見つけるのも悪用するのも、今後は攻撃者側のAIが面倒な部分を引き受けるため、今まで狙われなかった普及率が低いシステムこそ高い注意が必要となる。

　なお、併せて意識しておくべき点として、Mythosも含め現状AIツールの多くは、人間が気付かない脆弱性を洗い出してくれると同時に、ノイズとして質の低い脆弱性情報も多量に出力する状況にある。そのため、脆弱性検査にAIツールを活用する現場では、本当に対策が必要な脆弱性なのかどうかを判別するトリアージや対応の優先度付けに膨大な人的負担が生じている。いずれはこの辺りもAIが賢くなれば解決してくれるようになるだろうが、まだ時間がかかりそうだ。セキュリティ人材はますます必要となっている。

3．未知の脆弱性、ゼロデイ攻撃への対応

　脆弱性に気付き、攻撃者よりも早く修正対応ができることが理想だ。しかし、今後は攻撃者側のAIが未知の脆弱性を検出し、パッチが提供される前にエクスプロイト（脆弱性を悪用）され、被害を受けてしまう可能性も高まってくる。あるいは、修正パッチが提供されているものの、可用性やサービスのスケジュール上の都合など、何らかの問題ですぐに適用できないことも現実的に十分あり得る。そのような場合どうすれば良いのか。諦める、あるいは考えるのをやめるという選択肢はあり得ない。

　通常の脆弱性検査やペネトレーションテストでは、検出された脆弱性がエクスプロイト可能であることが確認されたら、そこでいったん報告が必要になる。許可が無い限り実際にそれをエクスプロイトしてシステムに被害をもたらすことはしない。

　しかし、フロンティアAI時代のAIツールはそんなことはお構いなしだ。あっという間に脆弱性をエクスプロイトし、次なるシステムの破壊やマルウェアの埋め込みなど、容赦なく連続した攻撃を続け、あらゆる悪行の限りを尽くす能力がある。

　だが、よほど恵まれた検証環境が無い限り、自社で動いているシステムに対してその規模の攻撃テストをすることはできない。従って、テストで使うAIと本当の攻撃に使われるAIとでは今後もその使われ方の深さが異なってくる。そのため、防御側は、未知の脆弱性がエクスプロイトされた後の最悪の事態を想定し、具体的な対応策を持っておくことが重要だ。

　これはパッチ適用の話から離れた難しい内容となるものの、予防的コントロールをもって無視できない残存リスクが存在する場合は発見的コントロールで補強するのが定石だ。さまざまな角度での逸脱の検出やリアルタイム検知など監視の強化も検討すべきだ。

　例えば、AIが人間とは比較できない速度と物量で攻撃してくるものの、サーバへの接続セッション数の制限やネットワーク帯域の制限を受けることには変わりない。必要がなければ枠を狭めておくなどの調整や、内部通信の量的な異常を積極的に検知する監視面の対応も有効だ。本連載第2回でIT運用とセキュリティ運用の統合について触れたように、これまでITインフラ運用の管轄だった部分にセキュリティの観点を積極的に組み込んでいくことが今後はとても重要になってくる。

　また、検知後のアクションとして、被害を最小限にする、あるいはレジリエンスの観点で持続や速やかな復旧ができるよう、具体的な仕組みを持っておきたい。例えば、「どのような攻撃や侵入が検知された（あるいは疑われる）場合に、システムを緊急停止するのか」といった規則について、組織として事業部門を含めた合意形成が事前にできていなければ、有事にすぐ動くことはできない。また、より技術的な対応として、例えば異常検知と連動した動的なマイクロセグメンテーションなどによる隔離なども有効であるし、縮退やシステム間の連携を切った形でのサービス継続なども可能だろう。これらを事前に検討、テストしておきたい。

　脆弱性への対策という文脈だけでもこのように考えるべき点が多々あるが、ことさら悲観的になる必要はないと考えている。セキュリティの世界はいつまでたっても“いたちごっこ”ではあるが、だからといって攻撃者が防御側を圧倒し続けるということもない。

　攻撃者側もAIを使えるようになる一方で、検査する側でもAIを活用するのが当たり前になってくる。そして脆弱性は今後徹底的に洗い出されて、システムはより洗練されていく。当面システムのパッチ対応の負荷は高まるだろうが、いずれそれも落ち着いてくるだろうと予測している。

膨大な脆弱性対応の後に来るもの

　むしろ今後セキュリティにおける主戦場、私たちにとってより難しい課題となってくるのは、AIによる高度な“なりすまし”への対策、特にアクセス管理にあると考えている。

　せっかくなので、考えるきっかけとして、最後に少しだけアクセス管理についても触れておきたい。アクセス管理は利用者とシステムのはざまにある課題だ。これから増えるであろうAIエージェントが持つ権限にしても人間がその正しさや必要性、リスクを判断し、付与するものだ。だから、基本的にシステムとAIだけで自動化され完結するものではない。

　一方で、アクセス権の付与も侵害調査も含め、そもそもセキュリティの運用全般において、明確なルールや事例に基づくものであればAIに任せれば済むのは言うまでもない。では、AIに任せられない状況というのは、どういう類のものだろうか。

　それは、倫理的な判断が伴うようなケースだ。従って、今後セキュリティにおける人間の役割は、明確なルールが無いような状況で判断を下すことに集中してくる。誰（またはAI）に、何を根拠に、何を許すか、という決定について善悪や立場や利害関係、組織・個人の損得、それらの優先度などを含めた判断だ。

　とはいえ、それらの判断は、乗っ取りやAIによる巧妙ななりすまし、産業スパイなどの懸念もある中で下さなければならない。その辺りの判断責任までを含めて、あらゆる責任をAIに委ねるようになれば究極的に全てのセキュリティ運用を自動化できるようになるかもしれない。しかし、その時には何が正しいのか正しくないのか、その後のリスクも含めて、人間はAIが持つ倫理観に従うことになる。

　いずれわれわれを悩ますことになるであろう、このようなアクセス管理が持つ難しさを掘り下げてみると、しょせんと言っては乱暴だが、脆弱性というのは単なるシステム的な不備でしかない。AIに見つけさせてふさげばよいだけの単純な話だ。今世間は大騒ぎしているが、AIの進化と共にいずれ人間が真剣に悩むべき課題ではなくなるだろう。

筆者紹介：三好一久（日本タタ・コンサルタンシー・サービシズ株式会社　最高情報セキュリティ責任者《CISO》兼 サイバーセキュリティ統括本部長）

イリノイ大学アーバナシャンペーン校卒業後、サーバー、ネットワーク、データベースと幅広い領域でエンジニアとしてのキャリアを積む。大手コンサルティングファームにて上流コンサルティングを経験。その後、大手セキュリティ関連企業にてコンサルティング部隊を立ち上げ、CISOを務めたのち、欧米企業2社においてカントリーマネージャーおよびAPAC統括を歴任。2023年、日本TCSに入社。現在はCISOを務めながら、サイバーセキュリティ部門を率いている。