Facebook、誤解を招くディープフェイク動画は削除する新ポリシー

Facebookが、プラットフォームへのディープフェイク動画を規制するポリシー強化を発表した。一般人には見分けられないAI技術を使って編集された誤解を招く動画は削除する。ただし、AI以外で編集したものや、パロディなどは対象外だ。

[佐藤由紀子，ITmedia]

　米Facebookは1月6日（現地時間）、プラットフォームへのディープフェイク動画投稿についてのポリシーを強化すると発表した。

　Facebookはディープフェイクを、ディープラーニングなどのAI技術を使って制作する現実をゆがめる洗練された動画と定義し、以下の条件を満たす投稿は削除するとしている。

• 動画内の人物が実際には言わなかった言葉を言ったように見えるように編集された、一般的な人には見分けの付かない洗練された動画
• 機械学習などのAI技術を使ってコンテンツを置き換えたり重ねたりして本物のように見せかけている動画

　ただし、パロディや風刺的なコンテンツ、単語の順序を変更したり省略するために編集された動画は対象外だ。

　上の条件を満たさないが問題のある動画は、世界の50以上のパートナーによるファクトチェックを含む、独立した第三者による確認プログラムの審査の対象になる。

　Facebookでは昨年5月、ナンシー・ペロシ下院議長がインタビューでろれつがまわっていないように見える動画が拡散された。これはディープフェイクではなく、低レベルな動画編集手法で作られたものだったとし、Facebookはしばらく削除しなかった（本稿執筆現在は削除されている）。6月にはFacebook傘下のInstagramに、Facebookのマーク・ザッカーバーグCEOが過激な発言をしているかのような動画が投稿され、AIで編集されたものだと判明しているが、現在もまだ削除されていない（パロディと見なしているのかもしれない）。

　少なくとも、ペロシ氏の動画のようなものはAIで編集されたものではないので、この新ポリシーの対象にはならず、削除にはファクトチェッカーによる報告とその後の審査を必要とするだろう。米Washington Postは、この新ポリシーが不十分だという多数の声を報じた。

　新ポリシーを紹介したFacebookのGlobal Policy Management担当副社長、モニカ・ビッカート氏は、米下院エネルギーおよび商業対策委員会が8日に開催する「危機にある米国民：デジタル時代の情報操作と詐欺」という公聴会に召喚されている。