「生成AIはもろ刃の剣」 カスペルスキーが2024年以降のセキュリティの未来を予測：セキュリティニュースアラート

カスペルスキーは2024年以降に生成AIがセキュリティにどのような影響を与えるかについて予測を発表した。サイバー攻撃者が生成AIをどのように悪用するかを論じている。

[後藤大地，有限会社オングス]

　カスペルスキーは2023年12月20日、2024年以降に生成AI（人工知能）がサイバーセキュリティに与える影響について解説したレポート「Story of the year: the impact of AI on cybersecurity」を公開した。

　レポートは2023年にサイバー攻撃者が悪意ある活動に生成AIをどのように利用したか、この技術を防御にどのように応用できるか、2024年以降に生成AIがどのようにサイバーセキュリティに影響を及ぼすかなどの予測がまとめられている。

カスペルスキーは2024年以降に生成AIがサイバーセキュリティに与える影響についてレポートを公開した（出典：Kaspersky LabのWebサイト）

「生成AIはもろ刃の剣」　カスペルスキーの予測とは？

　レポートの主な内容は以下の通りだ。

• ランダム性や確率の概念を組み込んだ確率的生成AIと従来の予測可能で確定的な結果を生み出す決定論的技術が交わる部分に複雑な脆弱（ぜいじゃく）性が出現する。セキュリティ担当者が保護すべき攻撃対象領域（アタックサーフェス）は拡大し、開発者は大規模言語モデル（LLM）エージェントによって開始される処理に対するユーザー承認など新たな対策を検討する必要がある
• LLMを使ったAIアシスタントが登場する。レッドチームのタスクを自動化し、侵入テスト環境で実行されたコマンドに基づいたガイダンスが提供できる可能性がある
• AIツールを利用することで犯罪者は高品質な偽の動画や画像を生成し、詐欺や不正行為に関するサイバー脅威がエスカレートする

　カスペルスキーは上記のように生成AIがサイバー脅威に影響を与えると予測する一方で「生成AIがサイバー脅威を取り巻く状況を大幅に変えることはないだろう」と指摘している。生成AIがサイバー攻撃者によって使用されていても防御側にも同じことが言えるため、攻防の状況が劇的に変化することは考えにくいという。

　Kasperskyのセキュリティエキスパートであるウラディスラフ・トゥシュカノフ氏は「サイバーセキュリティにおけるAIはもろ刃の剣です。その適応能力は防御を強化し、進化する脅威に対してプロアクティブな盾を提供します。一方で、危険をもたらすのもこれと同じ能力です。攻撃者もAIを利用してより巧妙な攻撃を生み出します。機密データを過剰に共有することなく責任を持って使用するという、適切なバランスを取ることが、デジタルフロンティアを保護する上で何よりも重要です」と語った。