Google系列のJigsaw、SNSでの毒コメントを非表示にするChrome拡張機能「Tune」
Alphabet参加のJigsawが、機械学習採用の毒コメント非表示ツール「Tune」をChrome拡張機能としてリリースした。YouTubeやTwitterのコメント欄の不快なコメントだけを非表示にする実験的なツールだ。
米Alphabet傘下のシンクタンクJigsawは3月12日(現地時間)、TwitterやRedditなどのソーシャルサービスに表示される毒のあるコメントを非表示にする実験的なChrome拡張機能「Tune」を公開したと発表した。
同社が2017年2月に公開した機械学習API「Perspective」を採用している。Perspectiveは、パブリッシャーがサービス上の不適切なコメントにリアルタイムで対処できるようにするためのAPI。Tuneは、ユーザー側で不適切なコメントの表示レベルを調整するための拡張機能だ。
毒コメントの評価基準は対象のコメントに似た過去のコメントへの評価。機械学習で評価の確度は向上しているが、まだ確実に毒コメントを検出できるわけではなく、毒ではないコメントを非表示にしてしまうこともあり、この拡張機能はあくまでも実験的なものだとしている。
今のところ、Tuneで毒コメント表示を調整できるサービスは、YoTube、Twitter、Facebook、Reddit、Disqusのみ。表示レベルは「完全に非表示」から「完全に表示」まで、音量調節つまみのようなUIで調整できる。
Twitterのドナルド・トランプ氏のツイートのスレッドで試してみたところ、つまみを完全表示から完全非表示に回していくのに合わせて表示されるコメントが減っていった。YouTubeでは、非表示になったコメントは●で表示され、クリックすると表示できた。適切なサンプルを見つけられなかったため、日本語でも有効かどうかは確認できなかった。
関連記事
- Google、“毒コメント”にリアルタイムで対処する機械学習API「Perspective」公開
Googleがパブリッシャーを対象に、コンテンツに付けられた不適切なコメントをリアルタイムで検出するAPI「Perspective」を公開した。Tensorflowを採用し、機械学習でコメントが“毒性”かどうかを評価する。 - YouTube、児童の性的搾取放置との指摘を受け400以上の関連チャンネルを停止
YouTubeは、児童性愛者が動画のコメント欄を悪用して性的搾取しているのを放置していると非難されたことを受け、多数のコメントを削除し、チャンネルを停止したと発表した。この問題で、数社の大手企業が広告を引き上げたと報じられている。 - Twitter、スパム報告の項目を細分化
「会話の健全性」向上に取り組むTwitterが、ツイートの報告メニューでスパムの報告内容をより詳しくできるようにした。 - Twitter、嫌がらせ対策のための大規模研究で外部研究者らと協力
嫌がらせ対策に注力するTwitterが、外部研究者と協力して「ルールを明示すれば嫌がらせが減る」かどうかを匿名化したユーザーデータを使って検証する研究を立ち上げた。
関連リンク
Copyright © ITmedia, Inc. All Rights Reserved.