「ディープフェイク」を見破るプログラム、NIIが開発 圧縮された映像でも一定の信頼性
国立情報学研究所が、ディープフェイクを見破るプログラムを開発した。WebAPIとして提供するため、同プログラムを組み込んだWebサービスを容易に構築できるという。
国立情報学研究所(NII)は9月22日、AIで顔を別の人物に置き換えた「ディープフェイク」を見破るプログラム「SYNTHETIQ: Synthetic video detector」を開発したと発表した。WebAPIとして提供するため、同プログラムを組み込んだWebサービスを容易に構築できるという。
判定したい映像のアップロードから判定結果のダウンロードまでをWebAPIを通して利用可能。アップロードされた映像は機械学習モデルを使って推論し、ディープフェイクかどうか判定する。大量のデータに基づく自動識別手法を採用しており、圧縮やデジタル信号を処理された映像でも一定の信頼度を保てるという。
同研究所は、AIで本物と見間違える映像を生成する技術について、情報操作など悪用が可能だと指摘。社会問題になっているディープフェイクの真贋を判定する深層学習モデルを研究してきた。これまでディープフェイクかを判定するには複数の高度な深層学習技術を組み合わせる必要があったが、同プログラムの登場で他のアプリケーションにも導入しやすくなった。
NIIでは、開発したプログラムの導入を支援するパートナー企業を募集している。
ディープフェイクを巡っては、ポルノ動画に登場する人物の顔を芸能人にすり替えたディープフェイク動画を公開した男性2人が逮捕されている。10万人以上の女性のディープフェイクヌードがSNSで拡散されているという調査結果もあり、一般人への被害も出ている。
関連記事
- ディープフェイクはどう作られる? 技術資料を無償公開 東大発ベンチャー
東京大学発のベンチャー企業NABLASが、「ディープフェイクと生成ディープラーニング」と題した技術資料を無償公開した。「ディープフェイク」を中心に、技術背景や実際に起きた事件などを解説している。 - Photoshopに「ディープフェイク」防止機能 編集履歴などを記録、後から確認可能に
米Adobeは「ディープフェイク」などを防ぐための機能を同社の画像編集ソフト「Photoshop」に搭載すると発表した。写真の撮影場所や編集履歴などを表示することで防止する仕組み。 - 古い写真の顔をディープラーニングでリアルに動かせる「Deep Nostalgia」 無料で利用可能
イスラエルの家系図サービス企業MyHeritageが、顔写真をアップロードすると数秒間の自然な動画に変換できるサービスを開始した。5枚までは無料で変換できる。ディープフェイク防止のため、音声は追加できない。 - 10万人以上の女性のディープフェイクヌード、Telegram上で拡散──Sensity調べ
女性の画像を送ると数分でディープフェイクヌードに変換するbotがSNSのTelegram上で稼働しており、10万人以上の女性の画像が変換されたとセキュリティ企業が報告した。 - “ディープフェイクポルノ”初摘発 AIで演者と芸能人の顔を差し替え公開した疑い 千葉県警
警視庁と千葉県警が、“ディープフェイクポルノ動画”を公開したとして、男性2人を名誉毀損と著作権法違反の疑いで逮捕した。ディープフェイクによるポルノ動画を巡る逮捕は初。
関連リンク
Copyright © ITmedia, Inc. All Rights Reserved.