Google、イランや中国によるGemini悪用についての調査結果を報告

[ITmedia]

　米Googleのサイバー脅威対策チームGoogle Threat Intelligence Groupは1月29日（現地時間）、中国やイランなどの政府支援の脅威アクター（サイバー攻撃者）による生成AIの悪用に関する調査結果を公表した。

　このレポートでは、脅威アクターがサイバー攻撃を強化するために、新しいAI技術を使用している例が多数紹介されている。

　2024年中、20カ国以上の数十の攻撃者グループが、悪意のあるコードの作成、サイバー脆弱性の探索、攻撃対象組織の調査などのタスクでGoogleの「Gemini」を使ったという。

　例えば中国の脅威アクターは、Geminiを米軍や米国のITサービスプロバイダーに関する情報収集や、SNSの技術的概念の把握に利用した。偽のニュースキャスターの動画作成も試したが、視聴者のエンゲージメントは向上しなかったという。

　イランの脅威アクターが最もGeminiを積極的に利用した。フィッシングキャンペーンやフェイクニュース記事の作成とその翻訳に活用しているという。

　このように、AIは一般的なタスクに利用されてはいるものの、AI固有の攻撃や高度な悪用は確認されていないという。基本的なプロンプトの言い換えや繰り返しが試みられたが、いずれも失敗に終わっている。

　この報告書は、AIが悪用される可能性を示唆する一方で、現在のAIは脅威アクターに画期的な能力を与えるものではないことを強調している。だが、AIは急激に進化しているため、継続的な監視と対策が不可欠だと強調している。