東大、“世界最高性能”のディープフェイク検出AIを開発　フェイクニュースやポルノなどの悪用根絶に期待

　東京大学大学院情報理工学系研究科の研究チームは4月26日、動画内の人物の顔が本物かどうかを判定する、ディープフェイク検出AIを開発した。このAIは、既存研究の性能を大きく上回り、世界最高性能の評価を示したという。より高い精度でディープフェイクの検出が可能になるため、悪用の根絶に期待できるとしている。

　ディープフェイクを検出するAI技術の多くは、訓練時に学習した作り方に倣ったフェイク画像などしか検出できず、それ以外のものを検証する際には性能が大きく低下する問題を抱えている。

　こうした未知のディープフェイクに対し、Microsoftは2020年に、疑似フェイク画像を作り、それを使った検出AIの学習方法を提案している。しかし、この手法では、非常に検出が容易な疑似フェイク画像を生成する場合があり、それらの画像を学習した検出AIは、高圧縮率による潰れた画像や、高／低露光下のフェイク画像に対して、検出精度が低下する問題があった。

　そこで研究チームは、検出が難しい疑似フェイク画像を生成する「Self-Blended Images」（SBIs）という方法を提案。SBIsで生成した画像を検出AIにフェイク画像として学習させることで、フェイク画像にわずかな不整合があるだけで真贋を判定することを可能にした。

　この手法の性能について、既存手法との比較評価を5種類の評価用のデータセットで実施したところ、そのうち4種類で世界最高性能を示したという。

　ディープフェイクの技術は映画産業などで新たな価値を生み出す一方で、スマートフォンのカメラアプリなどから、誰でも簡単にフェイク動画を作ることが可能になっている。そのため、政治やポルノなどの偽動画生成に悪用され、社会問題に発展している。研究チームは今後も、ディープフェイクの悪用根絶に向けた取り組みを進め、検出AIの精度の向上に取り組む。

　この研究成果は、6月19～24日に米国で開催されるコンピュータビジョン分野の国際会議「IEEE/CVF Conference on Computer Vision and Pattern Recognition」（CVPR）で発表する予定。

この記事の著者

関連記事

• 

  「ディープフェイク」を見破るプログラム、NIIが開発　圧縮された映像でも一定の信頼性

• 

  ディープフェイクはどう作られる？　技術資料を無償公開　東大発ベンチャー

• 

  文字を“ディープフェイク”するAI、Facebookが開発　フォントや手書き感をコピーして別単語に変換

• 

  相手は本物のCEO？　ビデオ会議やコラボツール悪用の成り済ましにFBIが注意喚起

• 

  “ふくよかキャラ”を引っ張り奏でるオペラAI「Blob Opera」　美しい音色の裏に、開発者の試行錯誤あり