よくわかる人工知能の基礎知識

AIの攻撃をAIで防御、サイバーセキュリティの“いたちごっこ”最新事情（1/4 ページ）

公開 2020年05月22日 07時00分

[ITmedia]

印刷する連載新着通知を受け取る

　コンピュータシステムや端末に何らかの不正な働きかけをし、その利用者や所有者の利益に反する行いをするサイバー攻撃。その歴史は古く、今から30年以上前の1989年には、既に現在のランサムウェアに相当するものが登場している（インターネットではなくフロッピーディスクを通じて拡散されたそうだ）。それ以来、DDoS攻撃や標的型攻撃など、その数や種類は大幅に増えており、もはや人間だけで対処するのが難しいレベルに達している。

　サイバー攻撃の増加と多様化によって、セキュリティ人材も不足してきている。高度化した攻撃に対抗するには高度な知識と経験が要求されるため、そうした人材を一朝一夕に増やすわけにもいかない。その意味でも、現在のセキュリティ対策には機械による自動化が欠かせなくなっている。

　こうした状況において、AIは攻撃側と防御側の双方で活用されている。AIを悪用し、サイバー攻撃をさらに高度化しようという取り組みと、逆にAIを活用して攻撃に対抗しようという取り組みが並行して行われているのだ。今回はそうした動きのいくつかを見ていこう。

連載：よくわかる人工知能の基礎知識

いまや毎日のようにAI（人工知能）の話題が飛び交っている。しかし、どれほどの人がAIについて正しく理解し、他人に説明できるほどの知識を持っているだろうか。本連載では「AIとは何か」といった根本的な問いから最新のAI活用事例まで、主にビジネスパーソン向けに“いまさら聞けないAIに関する話”を解説していく。

（編集：村上万純）

DDoS攻撃を進化させるAI

　ある意味で、既にサイバー攻撃には「人工の知能」が広く活用されているともいえる。例えばDDoS攻撃では、大量のbotを一斉に標的のサーバにアクセスさせることでシステムをダウンさせようとする。個々のbotの振る舞いは非常に単純なものだが、自律的に動き、攻撃という目的を実行していることは変わりない。ちょうど生物か否か曖昧な存在であるウイルスが、単純なメカニズムでありながら、まるで悪意を持っているかのように私たちを病気にさせるのと一緒だ。

　確かにこのような、単純な振る舞いをするプログラムを大量に用意し、意図した結果（コンピュータシステムへの攻撃）をもたらすというのも、セキュリティの文脈上では無視できない問題だ。ただ今回の記事では、より高度な学習や判断を行うAIを利用する例を考えてみたい。

　そうした例の一つが、DDoS攻撃の高度化だ。

　最近はIoT機器の増加によって、DDoS攻撃の規模はさらに拡大しつつある。さまざまな機器に感染した大量のbotが「botネット」を形成し、標的となるサイトやサーバに攻撃を仕掛けるわけだ。そうした巨大なbotネットの管理を、機械学習を応用したAIに任せるという可能性が指摘されている。この「司令官」役を演じるAIは、攻撃対象のシステムの振る舞いや、トラフィックのパターンなどを学習して、どうすれば異常の検知や防御がしにくくなるかを把握する。その上でbotに指令を出し、攻撃を指揮するのである。

　カレブ・リータル氏という米国のIT起業家は、以前米Forbesに寄稿した文章で、世界中のサイバーセキュリティ会社や公的機関が発表している、攻撃や脆弱性に関するアラートが、セキュリティ対策において逆効果になると指摘している。攻撃者は、アラートをリアルタイムに収集・分析することで、新たな攻撃方法のヒントを得たり、被害者やインターネット全体がサイバー攻撃に対してどのように反応しているかを把握したりするというのだ。

　本連載でも解説したように、AI技術の高度化によって、機械に人間の書いた文章を読ませ、情報を把握することが可能になってきている。特にこうしたアラートは、当然ながら定型のフォーマットに従って発表されることが多いため、一度学習させてしまえばより簡単に情報が引き出せるようになる。セキュリティ対策として共有される情報が、逆に攻撃材料に使われるかもしれないわけだ。

　一方で、通常の検索エンジンではアクセスできない「ディープウェブ」で取引される脆弱（ぜいじゃく）性に関する情報（ゼロデイ攻撃に利用されるセキュリティホールの情報など）を、AIで自動的に探させる可能性を指摘するセキュリティ専門家もいる。こちらはより直接的に攻撃を目的とした情報になるが、いずれにせよ「どこに弱点があるか、どう攻撃すれば良いか」もAIに考えさせる時代になりつつあるといえる。ちょうど株取引において、アルゴリズムが膨大な情報をリアルタイムに収集し、一瞬の情報格差を利用して超高速で取引するという手法が一般化したのと同じ状況が生まれている。

　リータル氏は前述の寄稿の中で、ディープラーニングを利用したAIが脆弱性を検知するだけでなく、その攻撃に適した手法やツールまで提案するようになり、人間はそれに従って行動する立場になると予想している。実際にディープウェブでは、DDoS攻撃用のツールも調達できるのだ。

次ページへ人間のふりをする音声合成