Google、YouTubeなどでのテロ対策強化を説明

　米Googleは6月18日（現地時間）、傘下のYouTubeを含む同社サービスでのテロ行為対策に関する新たな4つの取り組みを説明した。同社法務顧問のケント・ウォーカー氏が米Financial Timesに寄稿した論説を、公式ブログでも公開した。

　特にYouTubeはテロリストがリクルート目的のプロパガンダ動画を投稿することがあり、2008年ごろから問題になっている。2016年6月にはAI採用の自動ツールを採用したと報じられた。今年3月にはテロ関連を含む不適切な動画に広告が表示されたとして大手広告主が多数YouTubeから広告を引き上げた。

　今回発表された取り組みは以下の4つだ。

機械学習による問題コンテンツ検出システムの強化

　同社は既に機械学習による動画解析モデルを使っており、過去半年に削除したテロ関連コンテンツの50％以上はこのシステムで検出したものという。

　今後はより多くのエンジニアリングリソースを新しい“コンテンツ分類”学習の強化に投じるとしている。

人力検出の強化

　AIの強化と並行して、人間による問題検出のプログラムも強化する。一般ユーザーではなく、第三者機関の専門家に「Trusted Flagger」として問題コンテンツの報告で協力してもらっており、その協力先に新たに50のNGOと63の団体を追加する。

　一般ユーザーからの報告は誤認も多いが、Trusted Flaggerの報告は90％以上が正確という。

問題かどうかがグレーな至上主義動画などの扱い

　明らかにGoogleのポリシーに違反しているわけではないが、問題のある動画の扱いを従来より厳しくする。例えば宗教的に扇動したり、至上主義的な主張をする動画などが対象になる。

　こうした動画には警告が表示され、広告が表示されず、お勧めリストにも表示されない。

　Googleは、この対策で表現の自由と攻撃的な情報への接続の間の正しいバランスがとれると考えるとしている。

潜在的ISIS参加希望者を反テロ動画に誘導するツール（欧州で）

　Alphabet傘下のシンクタンクJigsawと協力し、ISISに興味を持っている可能性のある視聴者をターゲットとするオンライン広告で、反テロリズム動画にリダイレクトする「Redirect Method」の導入を欧州で拡大する。

　このプログラムは既に一部地域で導入しており、潜在的なISIS参加希望者が“異常に高いレートで”これらの広告をクリックし、反テロリズム動画を再生したという。

---

　Googleは昨年12月、Facebook、Microsoft、Twitterとテロ助長コンテンツ排除で協力すると発表した。

　Facebookは16日、同社でのテロ対策についてのブログを公開した。

この記事の著者

関連記事

• 

  Facebook、社会的責任に関する“7つの難問”を世に問うプロジェクト

• 

  Google、不適切なコンテンツへの広告表示対策について説明

• 

  YouTubeからの大手メディア広告引き上げを受け、Googleが自動システム改善を約束

• 

  Google、“毒コメント”にリアルタイムで対処する機械学習API「Perspective」公開

• 

  FacebookやGoogle、テロ関連など問題コンテンツの自動ブロックツールを採用か──Reuters報道