富士通、AIをあざむく「偽装攻撃」の検知技術を開発 21年度の実用化目指す
富士通研究所は10月29日、AIの誤判定を引き起こすサイバー攻撃を検知する技術を開発したと発表した。現場での実証実験を経て、2021年度中の実用化を目指す。
富士通研究所が今回開発したのは、系列データを扱うAIモデルに対する偽装を見破る技術。例えば攻撃者がマルウェアを使って感染を広げようとする場合、通信ログが系列データとして残る。通信ログからAIは攻撃を検知できるが、正規の管理業務操作のタイミングに攻撃を混ぜられると正しく検知できない場合もあった。
富士通研究所は偽装攻撃のパターンを自動生成する技術を新たに開発。大量に偽装攻撃のデータを作成し、正規の系列データと組み合わせる。この偽装攻撃データを学習したAIモデルと、従来の攻撃データを学習したAIモデルを組み合わせて再度学習（アンサンブル学習）を行うことで、偽装攻撃への耐性を上げつつ、従来の攻撃データへの判定精度の低下も抑えたとしている。
模擬偽装攻撃データ自動生成技術のイメージ
敵対的訓練技術のイメージ
シミュレーションの結果、これまでよりサイバー攻撃の検知精度は3ポイント程度低下したものの、偽装攻撃の検知精度は63.6ポイント増の87.6％と大幅に向上した。
判定精度の比較
さまざまな分野でAIの活用が進む一方で、AIを意図的にだます技術が社会的な不安材料になっていると同社は指摘。画像など、人間が見て元の性質を判別できるデータの場合は模擬的な偽装攻撃データを生成できていたが、系列データの場合は要素の変更で元の性質が失われることもあり、偽造攻撃データの生成に課題があったという。
富士通研究所は今後、現場での実証実験を経て、実用化を目指す。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
こんなメディアも見られています
ITmedia NEWSに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
本日の新着記事
アクセスランキング
-
1
メルカリ、梨の転売疑惑に「盗品の出品は確認されず」 誹謗中傷には利用制限も
-
2
Anthropic、「Claude Opus 5」公開 Fable 5に迫る性能を半額で――サイバー安全策は緩和、拒否時は自動フォールバックも
-
3
「iPhone高騰」はこれからも続く？ 中国CXMTに近づくApple、メモリ競合へのけん制が不発に終わりそうなワケ【後編】
-
4
「ニューロマンサー」実写ドラマ、Apple TV+で2027年1月配信開始へ
-
5
「こんなのに追われたら……」急斜面もやすやす爆走、中国製の車輪付き四足ロボのデモ動画が話題 最高時速20km超
-
6
検索結果に「詐欺ではありません」と表示させる詐欺手口、警視庁が注意喚起 AI要約も餌食に
-
7
海外の新作バカゲー「電車アタック」にマンガ家が感心した理由 ブッ飛んだ内容と完成度の高さ、そして“日本”
-
8
「めっちゃカメレオン」公式Discord乗っ取り 担当者PCがマルウェア感染、管理者が全員BANに 現在は復旧
-
9
暑さ対策が熱い！ 「猛暑対策展」で感じた、転んでもただでは起き上がらない日本人のエネルギー
-
10
スーパーに並んだ「ごちゃごちゃ生成AIポップ」が物議 “看板王”こと、きぬた歯科院長「これはアリ」
ITmedia NEWS SNS
@itmedia_newsをフォロー
インフォメーション
注目情報をチェック
ITmediaNEWSをフォロー
あなたにおすすめの記事PR