「生成AI」はセキュリティをどう脅かすのか？ 大手5社の脅威予測から探る：Weekly Memo（1/2 ページ）

2024年も話題の中心になりそうな生成AI。そのリスクを大手セキュリティベンダーはどう見ているのか。トレンドマイクロやVeeam Software、Trellix、CrowdStrike、そしてネットワーク大手でセキュリティも手掛けるCisco Systemsが発表した脅威予測から探る。

[松岡功，ITmedia]

　生成AI（人工知能）は2023年に続いて2024年も話題の中心になりそうだ。ただ、メリットだけでなくリスクもしっかりと見据え、対処する必要がある。そうした観点から、セキュリティベンダーは生成AIのリスクをどう見ているのか。大手各社が発表した2024年の脅威予測から、生成AIをはじめとしたAIに関する内容を取り上げて探っていく。

懸念される「ディープフェイク」の拡大

　まず、トレンドマイクロは「生成AIの悪用によるインフルエンスオペレーションが拡大する」として、次のような見方を示している。

　「AI分野でさまざまな進歩が見られる中、特に生成AIはなりすましや情報窃取において攻撃者の強力なツールにもなっている。ビジネスメール詐欺やスピアフィッシングなどのソーシャルエンジニアリング手法を用いて、デジタルと現実の境界をあいまいにさせる。ディープフェイクの手口としては、多くのAI駆動ツールが洗練され、リアルタイムで本物に酷似した音声や映像の偽装表現が可能になりつつある中、特に音声クローニングにおいて近い将来、詐欺での悪用が増えると予測している。そしてこの場合、AIにより相手の音声を模倣するには、特定の個人から多くの音声ソースを集める必要があるため、特定のターゲットに絞った脅威になってくるだろう」

　さらに同社は「AIブームはすでに政治にも影響を及ぼしている。ニュージーランドと米国でAI生成の画像が政治広告に使われていることが、それを証明している。特に米国や台湾では、2024年の国民選挙に向けて、AIが政治的な誤情報の増加に寄与すると予想されている。SNSなどを活用して世論を操作するインフルエンスオペレーションの拡大が懸念される。AI技術の利用が容易になる中、このように特定の標的を狙い、説得力のある詐欺の手口が2024年にはより一層拡大・活発化してくるだろう」とコメントしている。

　2024年1月13日に実施された台湾総統選では、予測されていた通りディープフェイクが数多く出回った。世界の動向に大きく影響する2024年11月実施予定の米国大統領選も「ディープフェイク合戦」になるのではないかと危ぶまれている。生成AIがサイバーとリアルの世界を融合させた新たな脅威をもたらしつつある。

　これに対してVeeam Softwareは「AIが激変するのは2024年ではない」として、次のように見ている。

　「ブロックチェーンやWeb3に関する話題は過去何年も見てきており、生成AIにも同じことがいえる。2023年はAIに関する多くの話題が飛び出したが、大規模言語モデル（LLM）は10年近く前から存在している。画期的なユースケースの登場や広い範囲での普及は、向こう10年程度はまだ見込めないだろう。一方で、生成AIはマーケティングなど、個人の生産性に最も大きな影響を与えるだろう。2024年は、社内プロセス向けのユースケースとお客さま向けのメリットといった外部プロセスのためのユースケースが主な焦点となると予想している。そしてもちろん、われわれはその違いを認識しながら生成AIを活用する必要がある」

　Veeam Softwareの予測は他社とは少しばかり異なっており、「ブームが過熱しすぎている。冷静になろう」と訴える意図とも受け取れる。ただし、生成AIについては2024年から具体的なユースケースが出てくるのに伴って、その中身の違いをしっかり捉える必要があると発信している。

　Trellixは「悪質なLLMが開発される」として、次のような見方を示している。

　「近年のAIの進歩により、人間のようなテキストを生成できるLLMが登場している。LLMは積極的な応用に向けた技術的な可能性を示している一方で、そのデュアルユースな性質が悪用に対する脆弱（ぜいじゃく）性をもたらしている。特に、サイバー犯罪者が大規模攻撃にLLMを悪用する可能性は重大な懸念事項だ」

AIの脅威について注視せよ（出典：Trellixの発表資料）

　同社は「主要なLLMは、一貫したテキスト生成、複雑なクエリへの回答、問題解決、コーディングなど、多岐にわたる自然言語タスクにおいて類いまれな能力を発揮している。これらの進化したLLMの利用が容易になったことで、サイバー犯罪者にとって新しい時代の幕開けとなっている。以前のAIシステムと異なり、現代のLLMはハッカーにとって強力かつ費用効果の高いツールであり、広範囲の専門知識や多大な時間、リソースを要求しない。この利点はサイバー犯罪者にも明らかだ」としている。

　生成AIはサイバー犯罪者にとって格好の武器になるとの警鐘だ。「LLMの悪用」を完全に食い止めることはできるのか。生成AI活用の根本的な問題だけに注視する必要がある。