ITmedia NEWS > STUDIO >

Facebook、AI採用のリベンジポルノ対策スタート

» 2017年04月06日 10時44分 公開
[佐藤由紀子ITmedia]

 米Facebookは4月5日(現地時間)、いわゆる「リベンジポルノ」など、公開されたくない画像の拡散を防ぐための新たなツールを発表した。

 これまでも画像を報告すれば削除されているが、そのコピーの拡散を防ぐため、人工知能を採用した。

 Facebook上で削除してほしい画像を含む投稿を見つけたら、下向き矢印や投稿の隣の[...]をクリック(タップ)し、[報告]から「この写真に自分が写っていることが好ましくない」を選んで報告する。

 revenge 1
 revenge 2 「この写真に自分が写っていることが好ましくない」を選ぶ

 報告された写真はFacebookの専門従業員が確認し、コミュニティ規定に違反していると判断した場合は削除し、場合によっては投稿したアカウントを停止する(画像を削除されたアカウントは異議申し立て可能)。

 削除前にダウンロードされるなどで同じ写真が再度投稿され、拡散するのを防ぐため、写真照合技術を使う。Facebookだけでなく、Facebook MessengerとInstagramも対象だ。

 誰かが同じ画像を投稿しようとすると、その画像がポリシー違反であると表示され、投稿できない。

 Twitterなど、Facebook以外のサービスに再投稿されることは防げないが、Cyber Civil Rights Initiativeなどの安全機関と協力し、リベンジポルノの被害者が主要サービスに報告するためのノウハウをまとめたWebサイトも立ち上げた。

 このサービスについてはマーク・ザッカーバーグCEOが2月、「Building Global Community」と題したメッセージで予告していた。同社は虚偽ニュース検出のためのAIも構築中だ。

Copyright © ITmedia, Inc. All Rights Reserved.