Facebook、AI採用のリベンジポルノ対策スタート
Facebookが、Facebook、Messenger、Instagram上でのリベンジポルノ拡散を防ぐためのAI採用ツールを発表した。
米Facebookは4月5日(現地時間)、いわゆる「リベンジポルノ」など、公開されたくない画像の拡散を防ぐための新たなツールを発表した。
これまでも画像を報告すれば削除されているが、そのコピーの拡散を防ぐため、人工知能を採用した。
Facebook上で削除してほしい画像を含む投稿を見つけたら、下向き矢印や投稿の隣の[...]をクリック(タップ)し、[報告]から「この写真に自分が写っていることが好ましくない」を選んで報告する。
報告された写真はFacebookの専門従業員が確認し、コミュニティ規定に違反していると判断した場合は削除し、場合によっては投稿したアカウントを停止する(画像を削除されたアカウントは異議申し立て可能)。
削除前にダウンロードされるなどで同じ写真が再度投稿され、拡散するのを防ぐため、写真照合技術を使う。Facebookだけでなく、Facebook MessengerとInstagramも対象だ。
誰かが同じ画像を投稿しようとすると、その画像がポリシー違反であると表示され、投稿できない。
Twitterなど、Facebook以外のサービスに再投稿されることは防げないが、Cyber Civil Rights Initiativeなどの安全機関と協力し、リベンジポルノの被害者が主要サービスに報告するためのノウハウをまとめたWebサイトも立ち上げた。
このサービスについてはマーク・ザッカーバーグCEOが2月、「Building Global Community」と題したメッセージで予告していた。同社は虚偽ニュース検出のためのAIも構築中だ。
関連記事
- ザッカーバーグCEO、“グローバルコミュニティ”としてのFacebookについて、AI活用などを説明
18億6000万人のMAUを擁するFacebookのマーク・ザッカーバーグCEOが、サービスを世界規模のコミュニティとして強化していくためのマニフェストを発表した。ユーザー保護のための対策についても言及している。 - Facebook傘下のInstagram、不快なコメントを非表示にするフィルター機能追加(まずは英語で)
Instagramが、いじめや嫌がらせコメントを表示させないようにするフィルター機能を、まずは英語版で利用できるようにした。 - Facebook、「コミュニティ規定」を更新 削除対象を具体的に説明
Facebookが、いじめやわいせつ画像の投稿など、どのようなアクティビティが削除の対象になるのかをより具体的に説明するために「コミュニティ規定」を更新した。 - Facebook、「ナパーム弾の少女」を“ヌード”だとして削除(抗議を受け復活)
Facebookが、大手新聞社の記者が自身のページに投稿した歴史的反戦写真「ナパーム弾の少女」を「コミュニティ規定」に反するとして削除し、物議を醸した後復活させた。新聞社の編集長はザッカーバーグCEO宛の公開書簡で「ジャーナリストの権利と義務は、Facebookのアルゴリズムによって傷つけられるべきではない」と抗議した。
関連リンク
Copyright © ITmedia, Inc. All Rights Reserved.