この頃、セキュリティ界隈で

ディープフェイクは見抜けるか、FacebookやGoogleが対抗プロジェクト　チープフェイクも登場

　「データを支配する者が、未来を支配する」と豪語するFacebookのマーク・ザッカーバーグ最高経営責任者（CEO）。「トランプ大統領は完全な●●●●だ」と放送禁止用語を言い放つオバマ前大統領。動画を加工して、そんなあり得ない場面を人為的につくり出す「ディープフェイク」が現実の脅威になりつつある。

　ザッカーバーグ氏の映像は、英国のアーティストがイスラエルのAI企業と組んで、英国のアート展に出品する目的で制作した。オバマ氏の方は、コメディアンのジョーダン・ピール氏のプロダクションが、「Adobe After Effects」や顔入れ替えのAIアプリ「FakeApp」で加工した。

　両方とも動画の中で偽物であることをはっきりさせているが、そうでなければ普通のユーザーにはまず本物と区別がつかない。ほかにも有名人の動画を加工したディープフェイクが続々と登場しており、情報操作に利用されることへの警戒感は強まっている。

　そうした中で、Instagramを傘下にもつFacebookや、YouTubeを運営するGoogleが相次いで対策を打ち出した。FacebookはMicrosoftや米マサチューセッツ工科大学（MIT）などと組んで、ディープフェイクを検出するためのオープンソースツール開発を目指すプロジェクト「Deepfake Detection Challenge」（DFDC）を発表した。

　一方、Googleは検出技術の開発研究に役立ててもらう目的で、ディープフェイクの大規模データベースを無償公開している。

　米国防総省の国防高等研究計画局（DARPA）も、画像や動画が本物かどうかを自動的に検証できる技術の開発を目指すプロジェクトに取り組んできた。

　情報操作を狙ったディープフェイクの現状についてDARPAでは、高度な画像・動画編集アプリや、本物かどうかの検証を極めて困難にさせる自動改ざんアルゴリズムが普及していると指摘。これに対抗するための検証ツールは不完全で、「現状は改ざんする側に有利な状況にある」と分析していた。

　MediForプロジェクトでは世界トップクラスの研究者を結集させ、この形成を逆転させることを目指している。

　しかし、そうしたフェイクを見抜く技術が開発されたとしても、その上を行く改ざん技術がすぐに登場するいたちごっこは続く。ディープフェイクに詳しい南カリフォルニア大学のハオ・リー准教授はCNBCのインタビューの中で、あと半年～1年もすれば「完璧にリアル」なフェイク映像が制作できるようになると予想、「間もなく（ディープフェイクを）検出する手段がなくなる時が来る。だから他の解決策を考えなければならない」と警鐘を鳴らした。

　わざわざAIを駆使しなくても、例えばAdobe Photoshopのような誰にでも手軽に使えるツールで加工した「チープフェイク」もSNSなどを通じて瞬く間に拡散する。「技術的アプローチだけでは、そうしたディープフェイクやチープフェイクの脅威には対抗できない」と別の専門家も言う。

　米国では2016年の大統領選挙で、世論操作を狙った「フェイクニュース」が横行した。2000年の次期大統領選挙ではディープフェイクの悪用に対する警戒感が強まっている。フェイクはどこまで進化するのか。そして人はどこまでフェイクに対抗できるのか。

この頃、セキュリティ界隈で

海外のセキュリティ関連ニュースを追い続けている鈴木聖子さんによる、最近のセキュリティニュースブリーフィング。隔週でお届けします。

この連載の記事をもっと見る

この記事の著者

関連記事

• 

  Facebook、ディープフェイク検出ツール開発イニシアチブ「DFDC」立ち上げ　MicrosoftとMITが参加

• 

  中国の人気ディープフェイクアプリ「ZAO」、プライバシーで批判され規約改訂