富士通、AIをあざむく「偽装攻撃」の検知技術を開発 21年度の実用化目指す
富士通研究所が、AIの誤判定を引き起こすサイバー攻撃を検知する技術を開発した。通信ログなどの系列データで攻撃検知AIをだまそうとする偽装攻撃を見破れるようになったという。
富士通研究所は10月29日、AIの誤判定を引き起こすサイバー攻撃を検知する技術を開発したと発表した。現場での実証実験を経て、2021年度中の実用化を目指す。
富士通研究所が今回開発したのは、系列データを扱うAIモデルに対する偽装を見破る技術。例えば攻撃者がマルウェアを使って感染を広げようとする場合、通信ログが系列データとして残る。通信ログからAIは攻撃を検知できるが、正規の管理業務操作のタイミングに攻撃を混ぜられると正しく検知できない場合もあった。
富士通研究所は偽装攻撃のパターンを自動生成する技術を新たに開発。大量に偽装攻撃のデータを作成し、正規の系列データと組み合わせる。この偽装攻撃データを学習したAIモデルと、従来の攻撃データを学習したAIモデルを組み合わせて再度学習(アンサンブル学習)を行うことで、偽装攻撃への耐性を上げつつ、従来の攻撃データへの判定精度の低下も抑えたとしている。
シミュレーションの結果、これまでよりサイバー攻撃の検知精度は3ポイント程度低下したものの、偽装攻撃の検知精度は63.6ポイント増の87.6%と大幅に向上した。
さまざまな分野でAIの活用が進む一方で、AIを意図的にだます技術が社会的な不安材料になっていると同社は指摘。画像など、人間が見て元の性質を判別できるデータの場合は模擬的な偽装攻撃データを生成できていたが、系列データの場合は要素の変更で元の性質が失われることもあり、偽造攻撃データの生成に課題があったという。
富士通研究所は今後、現場での実証実験を経て、実用化を目指す。
関連記事
- 米司法省、ロシア諜報員6人をサイバー攻撃関与で起訴 ウクライナ停電や米病院マルウェア感染など
米司法省がロシア連邦軍参謀本部情報総局(GRU)の諜報員6人を起訴した。ウクライナの大規模停電や世界の病院や政府のシステムをダウンさせたマルウェア感染など、過去数年の世界でのサイバー攻撃に関与したとしている。 - 岡山大に不正ログイン フィッシングメール1万4666件送信
岡山大学が、外部からの不正なログインによって、教員のメールアドレスから1万4666件のフィッシングメールが送信されていたと発表。メールアカウントのパスワードが安易だったことが原因としている。 - 新型コロナ関連のサイバー犯罪、20年上半期で608件 詐欺や標的型攻撃など多発
警察庁が、新型コロナウイルス感染症関連のサイバー犯罪が2020年上半期で608件に上ったと明らかにした。ECサイトでの詐欺や標的型メールによる攻撃などが多発していたという。 - NTTデータ、「サイバー攻撃の痕跡」をアナリストが調べる新サービス
NTTデータ先端技術がサイバー攻撃の痕跡をアナリストが調査・分析する新サービス「Threat Huntingサービス」を10月1日に始める。1回の利用料金は約300万円。 - コロナ禍でサーバダウン狙う「DDoS攻撃」が3倍に カスペルスキー調査
コロナ禍の影響で世界のサイバー攻撃数が前年の3倍になったことがカスペルスキーの調査で明らかになった。
関連リンク
Copyright © ITmedia, Inc. All Rights Reserved.