生成AIはサイバー攻撃側にメリット　米Akamaiトム・レイトンCEOが警鐘　対策は

公開 2023年11月02日 12時01分

更新 2024年04月02日 11時04分

著者

井上輝一

[ITmedia]

印刷する Googleで優先するソースとして追加

　「生成AIは情報セキュリティでは防御より攻撃に使われている」。こう指摘するのは、米Akamai Technologiesのトム・レイトンCEOだ。

　レイトン氏はCDN（コンテンツ・デリバリー・ネットワーク）事業で、1998年に同社を共同設立。同社は現在、CDNの他に情報セキュリティとクラウドコンピューティングを事業の柱に掲げている。

　レイトン氏は創業当時から米マサチューセッツ工科大学（MIT）の応用数学教授でもある。経営者であり数学者でもあるレイトン氏に、生成AIがもたらす可能性についてインタビューした。

米Akamai Technologiesのトム・レイトンCEO

従来のAIは防御側に、生成AIは攻撃側にメリット

　「従来のAIや機械学習も情報セキュリティには使われてきた」とレイトン氏は説明する。異常検知やBotの検知、適切な認証を持って入ってきたユーザーが本当に適切なユーザーか──こうした検知にAkamaiはAIを使ってきた。

　では生成AIはどうか。レイトン氏は「防御側のゲームチェンジにはならないが、攻撃者に非対称的なアドバンテージを与えることになる」と警鐘を鳴らす。

　Akamaiの研究チームによる研究結果では、Botに学習させることで防御を回避できるようになったという。こうした改善を続ければ最終的には防御層を全て突破できるようになってもおかしくはない。

　ただ、現時点では研究者（人間）が生成AIを使ってBotを改善しているとしており、BotによるBot自身の自己改善には至っていないようだ。

　そうした時代はすぐに来るのか？　という記者の質問に対し、レイトン氏は「これからどうなるかの予測はとても難しい」と答えた。その上で「AIはこれまで多く話題になりつつも、本当の意味での前進はなかなかなかった。生成AIは本当に大きな前進であり、ここからの前進は本当に早いスピードで起こっていくと思うし、それだけの潜在的な力も備えていると思う」と見解を示した。

サイバー攻撃が加速度的に進化する時代のセキュリティの在り方は

　仮にそうした時代が来るとしたら、気になるのは「生成AIによるサイバー攻撃で防御を突破されてしまう」リスクだ。Botの自己改善が可能になれば、どこかで人間と従来のAIによる防御を突破できてしまうタイミングが来るのではないか。

　レイトン氏は「すごく深刻な懸念だ」と同意する。「すでに侵入の増加を確認している。多層防御やネットワーク可視化、ボットやマルウェアの判別、通信や拡散の制限といったセキュリティのベストプラクティスをどんどん増やしていく必要がある」とした。Akamaiがセキュリティソリューションとして打ち出している、ネットワーク内部を細かく分割して安全性を向上する「マイクロセグメンテーション」も、多層防御の最後の層を厚くする上で重要な意味を持つとした。

　しかし、人間の設計では防御に限界もあるのではないか。防御側の進化にも生成AIを活用することはできないのだろうか。

　「防御への生成AI活用の可能性はあるし、研究者たちはそれも重視している。ただ、防御で重要なのは攻撃の判別はもちろん、ネットワークを可視化しガバナンスをしっかりすること。例えば、空調システムと重要データを格納しているシステムがあったときに、空調システムから重要データを格納しているシステムに通信が走ってはまずい。なので空調システムで何が起こっているかを検知できることが重要。そして防御のラストラインは常に組織の内側にある。そこに生成AIを使っていくことはできるだろう」（レイトン氏）

印刷する

SpecialPR

この記事の著者

井上輝一

2016年3月からITmediaにジョイン。ITmedia Mobile、PC USER、LifeStyle、ヘルスケアで編集・執筆を兼務。2017年4月からITmedia NEWSでの兼務も開始。2019年4月にNEWS専属となる。スマートフォンやPCといったガジェット系の他、理系（神経科学）のバックグラウンドを生かして科学系のネタや、量子コンピュータ、ブロックチェーン、AIなど多岐に渡って取材している。