Google、ディープニューラルネットワーク採用児童ポルノ画像検出APIを公開
米Googleは9月3日（現地時間）、インターネット上の児童性的虐待コンテンツ（CSAM；Child Sexual Abuse Material ）検出ツールを発表した。「Content Safety API」の1ツールとして、市民団体やNGO、他のテクノロジー企業など、対策に取り組む団体に無料で提供する。
同社は英国のオンライン監視団体Internet Watch Foundation（IWF）や2006年立ち上げの「Technology Coalition」に参加しており、インターネットを使った子どもの虐待や児童ポルノの取引を防ぐ技術の開発・導入に取り組んできた。
IWFなどの団体は、CSAM対策として、ユーザーからの報告やレビュワーによるレビューで問題のあるコンテンツを検出・削除しており、近年ではAIによる画像認識技術も採用している。
新ツールは、画像処理用ディープニューラルネットワークを採用し、レビュワーがチェックすべきCSAMコンテンツをCSAMである可能性の高い順にソートすることで、レビュワーをサポートする。従来のCSAM検出方法は既に検出されたCSAMのハッシュとのマッチングに依存していたが、新ツールはCSAMとして認識されていないコンテンツをターゲットにすることで、犯罪者に追いつけるとGoogleは説明する。
Googleのテストでは、レビュワーはこのシステムを使うことで一定時間に検出・対処するCSAMが700％増加したという。
このシステムを使いたい団体は公式フォーマットから申し込める。
Copyright © ITmedia, Inc. All Rights Reserved.
この記事の著者
関連記事
こんなメディアも見られています
ITmedia NEWSに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
本日の新着記事
アクセスランキング
-
1
資さんうどん、従業員の退職理由などが外部から閲覧可能に 委託先の勤怠システムに設定不備
-
2
松屋の公式アプリとWebサイトが停止 不正アクセスを検知、モバイルオーダーや弁当予約も使えず
-
3
グッスマ、顧客の2800人のカード番号全16桁＋セキュリティコードなど流出か 下4桁は40万枚分
-
4
「PayPay連携の銀行から、お金全部盗られた」被害報告……原因と対策は？ PayPayに聞いた
-
5
NEC、委託先の情報漏えいで謝罪 「セキュリティ事業を手掛ける企業として反省」
-
6
ベネフィット・ワンの委託先に不正アクセス セゾン会員向け優待サービスで約2.9万人分の個人情報漏えい
-
7
JALの予約システムに不正アクセス 約9万人分の予約情報が漏えい 一部ではパスポート番号も
-
8
VTuber「兎田ぺこら」グッズにSNSで風評被害→示談成立 「保護者同伴で謝罪などがあったため」
-
9
渦中のGMO、熊谷代表の発信は“火に油”か？ 「経営トップが自ら広報」の功罪
-
10
ソニー生命に不正アクセス、個人情報約38.5万件漏えい 氏名や住所、契約内容など
ITmedia NEWS SNS
@itmedia_newsをフォロー
インフォメーション
注目情報をチェック
ITmediaNEWSをフォロー
あなたにおすすめの記事PR