AIを使えば標的型攻撃が“超簡単”に 5つの要素で攻撃に対処せよ：ChatGPTでサイバー犯罪はどう変わるか

ChatGPTを悪用したサイバー攻撃にわれわれはどう対抗すればいいのか。AIを使った電子メール経由の攻撃を例に、これを防ぐ上で重要になる5つの要素を紹介しよう。

[伊藤利昭，Vade Japan]

　「ChatGPT」に代表される対話型のAI（人工知能）チャットサービス（生成AIやチャットbotAIなどとも呼ばれる）をサイバー攻撃に悪用する場合、どのようなケースが考えられるのか。

　本連載「ChatGPTでサイバー犯罪はどう変わるか」では、第1回でChatGPTを取り巻く動向と、サイバーセキュリティにおけるAIチャットサービスの脅威について特に懸念されるビジネスメール詐欺（BEC）について説明した。第2回となる本稿は、悪意あるAIから組織を守るための対策を紹介する。

著者紹介：伊藤利昭

Vade Japan　カントリーマネージャー

2020年1月に就任。責任者として、日本国内におけるVadeのビジネスを推進する。これまで実績を重ねてきたサービスプロバイダー向けのメールフィルタリング事業の継続的な成長と新たに企業向けのメールセキュリティを展開するに当たり、日本国内のパートナーネットワークの構築に注力している。

AIは標的型攻撃をどのくらい簡単にするのか？

　AIによる業務効率化の恩恵を受けるのは企業だけではない。これを悪用するサイバー攻撃者も同様だ。ここでは標的型攻撃を例にAIの効果を見ていこう。

　標的型攻撃にはターゲットの選定から事前調査、専用のマルウェアの作成、侵入後の動作など多くのプロセスがある。

　従来の標的型攻撃では全ての手順を実行するまでに、異なるスキルを持つ3〜4人のチームで数週間から数カ月の工数がかかっていた。しかしこれらにChatGPTを利用すると1人で、かつ特別なスキルを要求されることもなく工数を大きく短縮できる。

　ターゲット選定や事前調査、悪用する脆弱（ぜいじゃく）性については、インターネットまたはSNSから情報を収集できる。侵入に利用するマルウェアは、前回紹介した通り、アンダーグラウンドマーケットで販売されているWebブラウザ向けのChatGPT対応プラグインを購入することで、制限を回避してChatGPTに作成させることが可能だ。同様にこれを送り込むフィッシングメールについてもChatGPTに依頼すれば良い。

　侵入後は公開ドキュメントやフォーラムを利用して、スタックオーバーフローによりEDR（Endpoint Detection and Response）製品などの検知機能を停止させ、企業ネットワーク内を水平移動（ラテラルムーブメント）し、「Active Directory」サーバを見つけて自身の権限を昇格させる。この手法は既に確立されているため、ChatGPTに任せられる。さらにスクリプトの知識や数学的スキルなどによりパスワードベースをプルし、ハッシュを強制的にクラックする。

　後は権限によって重要な情報のあるサーバにアクセスし、スクリプトを使用して抽出した情報を、httpなど一般的なプロトコルに乗せて外部に盗み出す。このような標的型攻撃は非常に高度であり、国家機関の依頼によって実行されることもある。そのためこれまでは資金が潤沢にあり、優秀なハッカーを集めたサイバー攻撃集団のみが時間とお金をかけて実行していた。だがAIはそれを単独でかつ極めて短時間で実現してしまう。

標的型攻撃にチャットbotAIを悪用した場合（出典：Vade提供資料）

AIソリューションの強化に必要な“5つの要素”

　AIによる脅威に対抗するためには、同じくAIを搭載したサイバーセキュリティ対策が有効だ。しかしただAIを搭載していればいいというわけではなく、ソリューションが有効に機能するには幾つかの要素が必要となる。ここではAIを利用した電子メール経由の脅威に対抗するための5つの要素を紹介する。

1．多面的なAIアルゴリズム

　あらゆる種類の電子メールの脅威からビジネスを保護するためには、AIアルゴリズムのコアセットが求められる。これには電子メール経由の脅威において、リンクや添付ファイルなどさまざまな特徴を抽出する「ML」（機械学習）、電子メールおよびWebページベースの画像を分析して異常を検出する「Computer Vision」、テキスト内の文法や文体の微妙な選択を検出して、BECで使われる潜在的な脅威を識別する「自然言語処理」（NLP）などが含まれる。

　MLは膨大な量のデータを利用して電子メールを分類してクラスタ化する。このデータを基にリアルタイムの脅威検出を可能にする新しいルールを作成する。ML自体は多くのセキュリティソリューションに採用されているが、ポイントは訓練された（教師あり）アルゴリズムと自律型（教師なし）アルゴリズムの両方をバランス良く活用しているMLを使用することだ。

　教師あり学習では、「悪意のあるメッセージ」と「正当なメッセージ」の2つに分類されたデータに基づいて、電子メールを分類するアルゴリズムを継続的にトレーニングする。分析する機能には電子メール構造や難読化技術、URLリダイレクト、Webページ構造などがあり、ソリューションによっては数千の機能を分析するものもあるが、機能の量よりも品質の方が重要だと言える。また、データのラベル付けやアルゴリズムのトレーニングと監視、精度の向上には、人による専門知識が必要となる。

　教師なしアルゴリズムは、クラスタリングを使用してパターンを認識し、相関関係を見つけて電子メール内の異常を検出する。電子メールの類似点を認識することを学習し、それらをグループ化してラベル付けしていく。フィッシングやマルウェアは常に変化するため、教師なしアルゴリズムは電子メールの内容とコンテキストを分析し、アルゴリズムがまだ認識していない新しいタイプの脅威についても、自律的な学習によって特定してブロックできる。

　NLPは緊急性や警告の単語やフレーズなど、以前の脅威で特定された動作を検索して悪用のパターンを判断する。MLとNLPは主にテキスト分析に焦点を当てているが、注意したいのはサイバー攻撃者はテキストだけでなく画像などにも手を加えている点だ。

自然言語処理による悪意あるコンテンツの検出（出典：Vade提供資料）

　具体的にはフィッシングメールやWebページのHTMLコードを変更するといったケースだ。色やその他の視覚要素を微妙に変更された場合、人間には知覚できない。これによって完全一致のみを識別できるシグネチャベースの防御を欺くことも可能となる。

　これに対処するため研究が進んでいる分野がComputer Visionだ。既に画像認識でトレーニングされた深層学習モデルを転移学習で再利用し、MicrosoftやPayPal、Bank of Americaなどの有名なブランドになりすますために使用されるロゴやその他の画像を認識できるようにトレーニングする。

　このように検知モデルを豊富に持つソリューションであれば、AIによって作成されたフィッシングメールやフィッシングサイトなどを見抜けるようになる。機能の質と継続的なアップデートが重要なポイントだ。

画像を改ざんした例。画像下部のMicrosoftロゴが見にくくなっている（出典：Vade提供資料）

2．MLにおけるフィードバックループ

　MLは未知の攻撃を検出し、アルゴリズムに新しいルールを追加して継続的に改善する機能を提供する。しかしその作業はセキュリティ担当者やデータサイエンティストにゆだねられている。管理者はアルゴリズムを監督し、新しいデータで継続的な学習と正確な結果を確保する必要がある。

　MLにおいては、ユーザーから電子メールが悪意のあるものとして報告されたり、スパムまたは迷惑メールとしてマークされたりすると、そのデータがアルゴリズムにフィードされて新たなデータが提供される。これはアルゴリズムの進化、有効性の向上、修復用の自動ルールの作成に役立つ。ユーザーもフィードバックループに貢献しているわけだ。

　MLによって提供されるこれらの自動脅威検出および修復機能は、ITチームの負担低減に役立つ。サイバーセキュリティの脅威を手動で調査して修復するのは多大な労力を要する作業であり、電子メールのフィルターによって不適切にフラグが立てられた誤検出の調査にも多くの時間を費やしている。その結果、ITチームやセキュリティ担当者はアラート疲れに陥り、アラートに対して鈍感になってしまう。

　MLのアルゴリズムには、従来の電子メールフィルターでは検出できなかった誤検知の量と、脅威の修復に費やされる時間の両方を削減できる可能性がある。管理者やユーザーが誤検知を報告すると、モデルはその間違いから学習し、改善を進めていく。これによってセキュリティ担当者不足をカバーし、電子メール経由の脅威に対処する時間を短縮できる可能性がある。

3．ユーザーの貢献

　サイバーセキュリティ対策におけるAI利用は、データサイエンティストと脅威アナリストが管理及び運用を実施するが、それだけでは足りない。前述のように、日々電子メールをやりとりするユーザーの貢献が非常に重要となる。電子メールは新しい脅威インテリジェンスの重要な情報源であるためだ。

　ユーザーが疑わしいやりとりや潜在的な脅威を報告して、脅威アナリストがそれらを調査し、データサイエンティストがそれらを活用できるようにするという流れとなる。ユーザーは新しいメール脅威をフィルタリングするAIアルゴリズムの精度を強化するために、大いに役立つ存在だ。

4．データ

　AIはデータで学習する。もちろん質の高さは欠かせないが量も必要だ。AIが学習するデータセットの規模が大きく、典型的で最新のものであるほど、AIの精度は高まり効果的になる。このためデータの量は意識したい。何より攻撃者は十分なデータを持っているためだ。

5．適切なセキュリティ教育

　AI搭載のセキュリティソリューションの話ではないが、電子メール経由のサイバー攻撃の入り口となるのはユーザーである従業員だ。取引先からの電子メールだと思い気を許してしまうと、実は巧妙なマルウェアメールだったという可能性もある。そうすると、あっという間に企業ネットワークが侵害され、情報漏えいやランサムウェアを仕込まれるといった被害に遭ってしまう。

　まずは最前線にいる従業員が普段から慎重になり、少しでも違和感があればメールヘッダを確認したり、周囲の従業員やセキュリティ担当に聞いてみたりすることも重要だ。BECに引っ掛からないように、たとえ経営者から送金を指示されても、本人やセキュリティ担当者にまず確認するといった規定を作っておきたい。

　経営層も含む従業員全員のセキュリティリテラシー向上も重要だ。より短い頻度で研修を実施したり、不審な電子メールを受信したときにはその情報を全社で共有したりするなど、全社でリテラシーやセキュリティ意識を向上させる取り組みを進め、それを企業文化として醸成していくべきだ。