東大、“世界最高性能”のディープフェイク検出AIを開発 フェイクニュースやポルノなどの悪用根絶に期待
東京大学の研究チームは、動画内の人物の顔が本物かどうか判定する、ディープフェイク検出AIを開発した。このAIは、既存研究の性能を大きく上回り、世界最高性能の評価を示したという。
東京大学大学院情報理工学系研究科の研究チームは4月26日、動画内の人物の顔が本物かどうかを判定する、ディープフェイク検出AIを開発した。このAIは、既存研究の性能を大きく上回り、世界最高性能の評価を示したという。より高い精度でディープフェイクの検出が可能になるため、悪用の根絶に期待できるとしている。
ディープフェイクを検出するAI技術の多くは、訓練時に学習した作り方に倣ったフェイク画像などしか検出できず、それ以外のものを検証する際には性能が大きく低下する問題を抱えている。
こうした未知のディープフェイクに対し、Microsoftは2020年に、疑似フェイク画像を作り、それを使った検出AIの学習方法を提案している。しかし、この手法では、非常に検出が容易な疑似フェイク画像を生成する場合があり、それらの画像を学習した検出AIは、高圧縮率による潰れた画像や、高/低露光下のフェイク画像に対して、検出精度が低下する問題があった。
そこで研究チームは、検出が難しい疑似フェイク画像を生成する「Self-Blended Images」(SBIs)という方法を提案。SBIsで生成した画像を検出AIにフェイク画像として学習させることで、フェイク画像にわずかな不整合があるだけで真贋を判定することを可能にした。
この手法の性能について、既存手法との比較評価を5種類の評価用のデータセットで実施したところ、そのうち4種類で世界最高性能を示したという。
ディープフェイクの技術は映画産業などで新たな価値を生み出す一方で、スマートフォンのカメラアプリなどから、誰でも簡単にフェイク動画を作ることが可能になっている。そのため、政治やポルノなどの偽動画生成に悪用され、社会問題に発展している。研究チームは今後も、ディープフェイクの悪用根絶に向けた取り組みを進め、検出AIの精度の向上に取り組む。
この研究成果は、6月19〜24日に米国で開催されるコンピュータビジョン分野の国際会議「IEEE/CVF Conference on Computer Vision and Pattern Recognition」(CVPR)で発表する予定。
関連記事
- 「ディープフェイク」を見破るプログラム、NIIが開発 圧縮された映像でも一定の信頼性
国立情報学研究所が、ディープフェイクを見破るプログラムを開発した。WebAPIとして提供するため、同プログラムを組み込んだWebサービスを容易に構築できるという。 - ディープフェイクはどう作られる? 技術資料を無償公開 東大発ベンチャー
東京大学発のベンチャー企業NABLASが、「ディープフェイクと生成ディープラーニング」と題した技術資料を無償公開した。「ディープフェイク」を中心に、技術背景や実際に起きた事件などを解説している。 - 文字を“ディープフェイク”するAI、Facebookが開発 フォントや手書き感をコピーして別単語に変換
FacebookのAI研究チームは6月11日(現地時間)、写真に写るテキストから、そのフォントや手書きの癖をコピーできるAI「TextStyleBrush」を発表した。 - 相手は本物のCEO? ビデオ会議やコラボツール悪用の成り済ましにFBIが注意喚起
コロナ禍で普及したオンライン会議ツールやコラボレーションツール悪用した、成り済ましの被害が増えている。従業員の電子メールアカウントを乗っ取り、オンライン会議に参加。CEOなどに成り済まして、従業員へ送金を促すという。 - “ふくよかキャラ”を引っ張り奏でるオペラAI「Blob Opera」 美しい音色の裏に、開発者の試行錯誤あり
画面に映る“ふくよかキャラ”を引っ張って美しい音色を奏でるオペラAI「Blob Opera」で遊んだ。愛嬌ある姿ときれいな歌声にウットリしてしまう。開発には、職人技的なパラメータ調整が必要だった。
関連リンク
Copyright © ITmedia, Inc. All Rights Reserved.