「DeepFake」ポルノ、Redditも禁止し、FakeAppのサブレディットを閉鎖
AIアルゴリズム採用で動画の人物に別の人の顔を貼り付けられるアプリ「FakeApp」を公開していたRedditのサブレディットが閉鎖された。RedditはFakeAppで作成するようないわゆるディープフェイクポルノの投稿も禁止した。
オンラインコミュニティの米Redditは2月7日(現地時間)、AIのアルゴリズムを採用し、動画の顔の部分に別の人の顔を合成できるアプリ「FakeApp」を公開するサブレディット「deepfakes」を閉鎖した。
1月初旬に公開されたこのアプリでは、顔画像のデータがある程度あれば、動画の人物の顔を別の個人の顔とすげかえることができる。こうした動画は「ディープフェイク」と呼ばれる。この件について最初に報じた米Motherboardによると、アプリが公開されるとすぐに、どうしたら知り合いの顔をポルノ動画に貼り付けられるかという質問が投稿されたり、実際にポルノ動画の顔をセレブや無名の個人の顔にすげかえた動画が投稿されはじめたという。
Motherboardが報じた後、まずDiscordが、その後Twitterがディープフェイクを禁じた。
Redditはコミュニティ規則を更新し、「偽造された描写を含む、明らかに許可なしに作成・掲載された、ヌード状態の人物、または性的行為を行う人物を描写した画像や動画の配布を禁じる」と明示した。
FakeAppのチュートリアルによると、このアプリでは米Googleがオープンソースで提供している「TensorFlow」を採用している。
ポルノではないディープフェイクのサンプルはderpfakesのYouTubeチャンネルなどで視聴できる。
関連記事
- 私たちの顔はアート向き? GoogleのAIが苦慮する人種対応
2年前、黒人女性の写真を「ゴリラ」と判断してしまったGoogleの画像認識AI。最近米国でスタートしたセルフィーをアート作品とマッチングする機能は大丈夫でしょうか? - Facebook、リベンジポルノを未然に防ぐ機能をテスト中 メッセンジャーで自分宛に写真送付
Facebookが、拡散されたくない写真をFacebook Messengerで自分宛に送ると、AIがその写真のフィンガープリントをサーバに保存し、照合することで同じ写真の投稿を未然に防ぐリベンジポルノ対策を4カ国でテスト中だ。 - アドビ、AIを使った「11の新技術」を発表 未来のAdobe製品に搭載される可能性も
11の新技術を、デモ動画を交えてレポートする。 - reddit、同意なしのポルノ投稿を削除へ プライバシーポリシー改定で
昨年秋にiCloudから流出したセレブのプライベート写真の大量投稿を問題視したredditが、プライバシーポリシーを改定し、本人の同意のない性的コンテンツはリクエストベースで削除すると発表した。
関連リンク
Copyright © ITmedia, Inc. All Rights Reserved.