Google、“毒コメント”にリアルタイムで対処する機械学習API「Perspective」公開

公開 2017年02月24日 07時54分

更新 2017年02月24日 07時51分

[ITmedia]

印刷する

　米GoogleとAlphabet傘下のシンクタンクJigsawは2月23日（現地時間）、メディアなどのパブリッシャーがサービス上の不適切なコメントにリアルタイムで対処できるようにする機械学習採用のAPI「Perspective」を公開した。

　Perspectiveは、よりよい会話をホストしやすくするためのAPI。Googleのオープンソースの機械学習ライブラリ「TensorFlow」と、ディープラーニング技術を提供する「Cloud Machine Learning Platform」で開発した。

　このAPIは機械学習モデルを使って、コメントが会話に与えそうな影響を評価・採点する。開発者やパブリッシャーはこの点数を、コメントした人へのリアルタイムのフィードバックや、モデレーターへの通知、読者が関連情報を簡単に見つけるための支援などに使える。まずは“毒性のある”（toxic）コメントを検出する機械学習モデルをリリースし、年内に他の傾向のコメントのためのモデルも公開していく計画。Googleの定義では、毒性のあるコメントとは、読んだ人が会話から離れてしまうような無礼で理性的でないコメントのことだ。

　評価基準は、対象のコメントに似た過去のコメントへの評価。Perspectiveは人間のレビュアーが評価した数十万ものコメントを学習しており、評価が増えるにつれ採点も正確になっていく。

　パブリッシャーはPerspectiveを使って、例えば問題のあるコメントを人間のモデレーターに通知したり、コメントを入力した人に対して、そのコメントがコミュニティに与えるかもしれない影響について警告する機能や、読者が毒性コメントを非表示にできる機能をサービスに追加したりできる。

入力したコメントの“毒率”をリアルタイムで表示するサンプル

コメントを毒性の薄い順にソートするサンプル

　まずは米New York Times、Wikipedia、米Economist、英GuardianなどがPerspectiveを採用した。New York Timesは現在、掲載記事の約1割でコメントできるようにしているが、それでも1日当たり平均1万1000件のコメントを人間のモデレーターが評価しなければならない。Perspectiveの採用で評価時間が短縮できれば、より多くの記事にコメント欄を開設できるとGoogleは説明する。

　APIは専用ページから申し込める。現在は英語のみサポートしているが、他の言語のパブリッシャーが参加すればするほど学習データが蓄積されるので、サポート言語は増えていく見込みだ。

印刷する