Google、ディープニューラルネットワーク採用児童ポルノ画像検出APIを公開
Googleが、AI採用の児童の性的虐待コンテンツ(SCAM)検出ツールを対策に取り組む団体や企業に無償提供すると発表した。このツールにより、テストではレビュワーのSCAM対処効率が700%アップしたとしている。
米Googleは9月3日(現地時間)、インターネット上の児童性的虐待コンテンツ(CSAM;Child Sexual Abuse Material )検出ツールを発表した。「Content Safety API」の1ツールとして、市民団体やNGO、他のテクノロジー企業など、対策に取り組む団体に無料で提供する。
同社は英国のオンライン監視団体Internet Watch Foundation(IWF)や2006年立ち上げの「Technology Coalition」に参加しており、インターネットを使った子どもの虐待や児童ポルノの取引を防ぐ技術の開発・導入に取り組んできた。
IWFなどの団体は、CSAM対策として、ユーザーからの報告やレビュワーによるレビューで問題のあるコンテンツを検出・削除しており、近年ではAIによる画像認識技術も採用している。
新ツールは、画像処理用ディープニューラルネットワークを採用し、レビュワーがチェックすべきCSAMコンテンツをCSAMである可能性の高い順にソートすることで、レビュワーをサポートする。従来のCSAM検出方法は既に検出されたCSAMのハッシュとのマッチングに依存していたが、新ツールはCSAMとして認識されていないコンテンツをターゲットにすることで、犯罪者に追いつけるとGoogleは説明する。
Googleのテストでは、レビュワーはこのシステムを使うことで一定時間に検出・対処するCSAMが700%増加したという。
このシステムを使いたい団体は公式フォーマットから申し込める。
関連記事
- リベンジポルノ相談者数、前年比1.5倍に セーファーインターネット協会が報告
ヤフーなどネット企業から成る団体・セーフーインターネット協会が、「インターネット上の違法・有害情報対策の2017年実績」を公開。リベンジポルノ相談数は16年と比べ約1.5倍増加したという。 - リベンジポルノ相談数、1243件で最多 被害は20代中心 警察庁
警察庁によれば、リベンジポルノの2017年の相談件数が1243件だった。3年連続で1000件を超え、過去最多を更新した。 - Facebook、リベンジポルノを未然に防ぐ機能をテスト中 メッセンジャーで自分宛に写真送付
Facebookが、拡散されたくない写真をFacebook Messengerで自分宛に送ると、AIがその写真のフィンガープリントをサーバに保存し、照合することで同じ写真の投稿を未然に防ぐリベンジポルノ対策を4カ国でテスト中だ。 - Google、検索結果に地域の児童誘拐/行方不明情報を掲載
米国でGoogle検索やGoogle Mapsで地域関連の検索をすると、その地域で出されている誘拐/行方不明事件の情報が「AMBER Alert」アイコン付きで表示される。 - 子供の虐待/児童ポルノ防止でネット大手がタッグ
米AOL、Yahoo!、Microsoftなどネット大手5社が資金を拠出し、児童保護団体と協力して児童ポルノ阻止などの対策に乗り出す。
関連リンク
Copyright © ITmedia, Inc. All Rights Reserved.