「AI製ゼロデイ攻撃」ついに出現か Google、攻撃者による生成AI悪用の新局面を報告
AIを使って開発したと思われるゼロデイ攻撃コード(エクスプロイト)使用を計画する攻撃者グループを初めて特定――米Googleの脅威分析部門Google Threat Intelligence Group(GTIG)は、5月11日(現地時間)にAIの悪用に関する最新動向のレポートを公表し、このように明かした。
問題の攻撃者グループは、このエクスプロイトを大規模な脆弱(ぜいじゃく)性悪用に使う計画だったが、GTIGによる事前の発見で使用を防げた可能性があるという。なお、GTIGは攻撃計画を発見した過程について詳細を伏せている。
このエクスプロイトはPythonスクリプトとして実装され、広く使われているオープンソースのシステム管理ツールで、2FA(2要素認証)を回避できるゼロデイ脆弱性を悪用するものだった。ただし、悪用には有効なユーザー認証情報が必要だった。GTIGは影響を受けたベンダーと連携し、同脆弱性を開示して攻撃を妨害したとしている。
GTIGは、GoogleのAIモデル「Gemini」が今回のエクスプロイトの開発に使われたとは考えていないとした一方、スクリプトに教育的な説明文や幻覚(ハルシネーション)とみられるCVSS(共通脆弱性評価システム)スコア、大規模言語モデル(LLM)の訓練データに特徴的な整ったPythonコードの形式が含まれていたことから、攻撃者がAIモデルを脆弱性の発見やエクスプロイトの開発に使った可能性が高いと分析している。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
こんなメディアも見られています
ITmedia AI+に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
アクセスランキング
-
1
FANZAで「成人向けAIコンテンツ制作サービス」開始 8月24日から先行体験
-
2
Anthropic、「ミュトス 5」を脆弱性スキャンに開放──「Claude Security」経由でEnterprise顧客が利用可能に
-
3
エイベックス松浦会長、noteの“バズり記事”を「ほぼAI」で作成 「僕の60年分のデータを入れた」
-
4
「たった14人」の挑戦から7兆円の逆転劇へ ラピダス小池社長の「TSMCとは戦わない」2ナノ半導体の勝算
-
5
「孫さんはOpenAIだが、僕はAnthropic」 SBI北尾会長が語る「AI投資5億円→増収27億円」の勝算
-
6
「Gemini Notebook」で利用者10倍 シニア社員をAIヘビーユーザーにした首都高の考え
-
7
中国AI「Kimi」が日本進出か 有料プランのプレゼントキャンペーンも 「はじめまして、日本」
-
8
現役組み込みエンジニアがAIを業務利用して分かったこと――期待と限界と現実解
-
9
フィジカルAIとヒューマノイドの可能性、PFNの見立てとトヨタのアプローチ
-
10
GoogleはAI競争に負けたのか 「最強のAI」ではなく「AIの“電力網”」を選ぶ賭け
SpecialPR
ITmedia AI+ SNS
インフォメーション
注目情報をチェック
ITmedia AI+をフォロー
あなたにおすすめの記事PR