「AI製ゼロデイ攻撃」ついに出現か Google、攻撃者による生成AI悪用の新局面を報告

Googleの脅威分析部門が、AIが生成したとみられるゼロデイ攻撃コードの使用を計画する攻撃者グループを初めて特定した。GTIGの対応により、大規模な攻撃は未然に防がれたという。

[ITmedia]

　AIを使って開発したと思われるゼロデイ攻撃コード（エクスプロイト）使用を計画する攻撃者グループを初めて特定――米Googleの脅威分析部門Google Threat Intelligence Group（GTIG）は、5月11日（現地時間）にAIの悪用に関する最新動向のレポートを公表し、このように明かした。

　問題の攻撃者グループは、このエクスプロイトを大規模な脆弱（ぜいじゃく）性悪用に使う計画だったが、GTIGによる事前の発見で使用を防げた可能性があるという。なお、GTIGは攻撃計画を発見した過程について詳細を伏せている。

　このエクスプロイトはPythonスクリプトとして実装され、広く使われているオープンソースのシステム管理ツールで、2FA（2要素認証）を回避できるゼロデイ脆弱性を悪用するものだった。ただし、悪用には有効なユーザー認証情報が必要だった。GTIGは影響を受けたベンダーと連携し、同脆弱性を開示して攻撃を妨害したとしている。

今回の脆弱性悪用の流れ（出典：公式ブログ）

　GTIGは、GoogleのAIモデル「Gemini」が今回のエクスプロイトの開発に使われたとは考えていないとした一方、スクリプトに教育的な説明文や幻覚（ハルシネーション）とみられるCVSS（共通脆弱性評価システム）スコア、大規模言語モデル（LLM）の訓練データに特徴的な整ったPythonコードの形式が含まれていたことから、攻撃者がAIモデルを脆弱性の発見やエクスプロイトの開発に使った可能性が高いと分析している。