富士通、AIをあざむく「偽装攻撃」の検知技術を開発 21年度の実用化目指す
富士通研究所は10月29日、AIの誤判定を引き起こすサイバー攻撃を検知する技術を開発したと発表した。現場での実証実験を経て、2021年度中の実用化を目指す。
富士通研究所が今回開発したのは、系列データを扱うAIモデルに対する偽装を見破る技術。例えば攻撃者がマルウェアを使って感染を広げようとする場合、通信ログが系列データとして残る。通信ログからAIは攻撃を検知できるが、正規の管理業務操作のタイミングに攻撃を混ぜられると正しく検知できない場合もあった。
富士通研究所は偽装攻撃のパターンを自動生成する技術を新たに開発。大量に偽装攻撃のデータを作成し、正規の系列データと組み合わせる。この偽装攻撃データを学習したAIモデルと、従来の攻撃データを学習したAIモデルを組み合わせて再度学習（アンサンブル学習）を行うことで、偽装攻撃への耐性を上げつつ、従来の攻撃データへの判定精度の低下も抑えたとしている。
模擬偽装攻撃データ自動生成技術のイメージ
敵対的訓練技術のイメージ
シミュレーションの結果、これまでよりサイバー攻撃の検知精度は3ポイント程度低下したものの、偽装攻撃の検知精度は63.6ポイント増の87.6％と大幅に向上した。
判定精度の比較
さまざまな分野でAIの活用が進む一方で、AIを意図的にだます技術が社会的な不安材料になっていると同社は指摘。画像など、人間が見て元の性質を判別できるデータの場合は模擬的な偽装攻撃データを生成できていたが、系列データの場合は要素の変更で元の性質が失われることもあり、偽造攻撃データの生成に課題があったという。
富士通研究所は今後、現場での実証実験を経て、実用化を目指す。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
こんなメディアも見られています
ITmedia NEWSに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
本日の新着記事
アクセスランキング
-
1
中国メーカー、出荷前のAndroid端末に犯罪用のバックドアを設置か Googleが取引停止
-
2
無印良品、クレカ「MUJI Card」カード番号全ケタ、約109万件漏えいか 不正アクセスで続報
-
3
Aterm設定画面、「PHP使ってないのに.php」なぜ？ NECに聞いた
-
4
農水省の“クソダサ”ポスター話題 「AIよりよっぽど良い」の声も 担当者に狙いを聞いた
-
5
セガ系に不正アクセス ゲームセンター向けサービス停止 バンダイ系の「太鼓の達人」などにも影響
-
6
ビックカメラG、メールアドレスなど約1490万件漏えいの可能性 委託先への不正アクセスで
-
7
「不気味の谷を越えた」？ 中国の美男美女型ロボット「U1」話題 286万円から
-
8
デニーズアプリに不正アクセス 旧アプリ移行処理で認証情報を不正作成される 個人情報漏えいか
-
9
Microsoft、メモリ8GBのWindows 11 PCを高速化 マルチタスク処理は最大40％向上
-
10
「命の砂時計」連呼のGMO会見──熊谷代表の発言にXではツッコミ続出
ITmedia NEWS SNS
@itmedia_newsをフォロー
インフォメーション
注目情報をチェック
ITmediaNEWSをフォロー
あなたにおすすめの記事PR