AIの攻撃をAIで防御、サイバーセキュリティの“いたちごっこ”最新事情：よくわかる人工知能の基礎知識（4/4 ページ）

[小林啓倫，ITmedia]

　例えば米Adobe Systemsは19年、カリフォルニア大学と協力して、「Photoshopで加工された人間の顔」を検知するツールを発表している。実際に加工前と加工後の顔画像を提示して、どちらが加工された画像なのかを判別させるテストを行ったところ、人間の正答率は53％だったが、検知ツールは99％だったという。

加工済み画像（写真左）と、ツールが検出した加工領域（写真右）

　画像だけでなく文章でも同様の例がある。MIT-IBMワトソンAI研究所とハーバードNLPの研究チームは、AIにAIが書いた文章を検知させるという実験をした。特定の自然文生成アルゴリズムを対象とした実験ではあるが、自動生成されたものと人間による文章を与えたところ、ある程度まで「機械によって生成された可能性」を指摘させることに成功している。

　音声については、19年に米Googleが合成音声のデータベースを公開し、偽音声を検知する技術の開発を後押ししている。実際の音声と合成音声データを比較させることで、わずかな違いをAIに学習させようというわけだ。とはいえ音声合成技術の側も日進月歩であるため、Googleは順次データセットを追加する予定としている。

　ただこうした取り組みについても、100％の精度を期待するわけにはいかないだろう。最近では、機械学習のAIにちょっとしたノイズデータを与えることで誤作動を引き起こす「Adversarial Attack」（敵対的攻撃）や、人間には聞こえない周波数の音波でAI音声アシスタントを操る「Dolphin Attack」（イルカ攻撃）と呼ばれる手法も登場している。こうした攻撃に対処するには、今度は人間の技術者がAIを支援しなければならない。

　こうした攻防は常にいたちごっこであり、人間と機械が双方を補いながら、精度と効率を高めていく努力が求められる。

　通常の犯罪と同様に、サイバー攻撃も最新の状況を分析して、まだ人々が気付いていなかったり慣れていなかったりする脅威を利用する。例えば新型コロナウイルス感染防止策として多くの企業がテレワークを導入したことで、それを標的としたサイバー攻撃が1〜3月の間で6500件以上発生したという。またワクチン開発に関係する情報を狙ったものかもしれないが、医療機関や学術機関を狙った攻撃も増加している。こうした動きに素早く対処するためには、今後もサイバーセキュリティにおけるAI導入の推進と高度化が欠かせないだろう。

著者プロフィール：小林啓倫（こばやし あきひと）

経営コンサルタント。1973年東京都生まれ、獨協大学外国語学部卒、筑波大学大学院地域研究研究科修士課程修了。システムエンジニアとしてキャリアを積んだ後、米Babson CollegeにてMBAを取得。その後外資系コンサルティングファーム、国内ベンチャー企業などで活動。著書に『FinTechが変える! 金融×テクノロジーが生み出す新たなビジネス』（朝日新聞出版）、『IoTビジネスモデル革命』（朝日新聞出版）、訳書に『テトリス・エフェクト 世界を惑わせたゲーム』（ダン・アッカーマン著、白揚社）、『シンギュラリティ大学が教える 飛躍する方法』（サリム・イスマイル著、日経BP社）など多数。