Google、イランや中国によるGemini悪用についての調査結果を報告

　米Googleのサイバー脅威対策チームGoogle Threat Intelligence Groupは1月29日（現地時間）、中国やイランなどの政府支援の脅威アクター（サイバー攻撃者）による生成AIの悪用に関する調査結果を公表した。

　このレポートでは、脅威アクターがサイバー攻撃を強化するために、新しいAI技術を使用している例が多数紹介されている。

　2024年中、20カ国以上の数十の攻撃者グループが、悪意のあるコードの作成、サイバー脆弱性の探索、攻撃対象組織の調査などのタスクでGoogleの「Gemini」を使ったという。

　例えば中国の脅威アクターは、Geminiを米軍や米国のITサービスプロバイダーに関する情報収集や、SNSの技術的概念の把握に利用した。偽のニュースキャスターの動画作成も試したが、視聴者のエンゲージメントは向上しなかったという。

　イランの脅威アクターが最もGeminiを積極的に利用した。フィッシングキャンペーンやフェイクニュース記事の作成とその翻訳に活用しているという。

　このように、AIは一般的なタスクに利用されてはいるものの、AI固有の攻撃や高度な悪用は確認されていないという。基本的なプロンプトの言い換えや繰り返しが試みられたが、いずれも失敗に終わっている。

　この報告書は、AIが悪用される可能性を示唆する一方で、現在のAIは脅威アクターに画期的な能力を与えるものではないことを強調している。だが、AIは急激に進化しているため、継続的な監視と対策が不可欠だと強調している。

関連記事

• 

  OpenAI、ロシアや中国によるChatGPTなどのAIツール不正利用について報告　5件を阻止

• 

  生成AIの弱点が相次ぎ発覚　ChatGPTやGeminiがサイバー攻撃の標的に　情報流出や不正操作の恐れも

• 

  OpenAIとMicrosoft、AIを攻撃に悪用するロシアや中国のアカウント停止

• 

  米国防省、テンセントなどを中国軍の関連企業に指定　中国側は反発