Google、“毒コメント”にリアルタイムで対処する機械学習API「Perspective」公開
Googleがパブリッシャーを対象に、コンテンツに付けられた不適切なコメントをリアルタイムで検出するAPI「Perspective」を公開した。Tensorflowを採用し、機械学習でコメントが“毒性”かどうかを評価する。
米GoogleとAlphabet傘下のシンクタンクJigsawは2月23日(現地時間)、メディアなどのパブリッシャーがサービス上の不適切なコメントにリアルタイムで対処できるようにする機械学習採用のAPI「Perspective」を公開した。
Perspectiveは、よりよい会話をホストしやすくするためのAPI。Googleのオープンソースの機械学習ライブラリ「TensorFlow」と、ディープラーニング技術を提供する「Cloud Machine Learning Platform」で開発した。
このAPIは機械学習モデルを使って、コメントが会話に与えそうな影響を評価・採点する。開発者やパブリッシャーはこの点数を、コメントした人へのリアルタイムのフィードバックや、モデレーターへの通知、読者が関連情報を簡単に見つけるための支援などに使える。まずは“毒性のある”(toxic)コメントを検出する機械学習モデルをリリースし、年内に他の傾向のコメントのためのモデルも公開していく計画。Googleの定義では、毒性のあるコメントとは、読んだ人が会話から離れてしまうような無礼で理性的でないコメントのことだ。
評価基準は、対象のコメントに似た過去のコメントへの評価。Perspectiveは人間のレビュアーが評価した数十万ものコメントを学習しており、評価が増えるにつれ採点も正確になっていく。
パブリッシャーはPerspectiveを使って、例えば問題のあるコメントを人間のモデレーターに通知したり、コメントを入力した人に対して、そのコメントがコミュニティに与えるかもしれない影響について警告する機能や、読者が毒性コメントを非表示にできる機能をサービスに追加したりできる。
まずは米New York Times、Wikipedia、米Economist、英GuardianなどがPerspectiveを採用した。New York Timesは現在、掲載記事の約1割でコメントできるようにしているが、それでも1日当たり平均1万1000件のコメントを人間のモデレーターが評価しなければならない。Perspectiveの採用で評価時間が短縮できれば、より多くの記事にコメント欄を開設できるとGoogleは説明する。
APIは専用ページから申し込める。現在は英語のみサポートしているが、他の言語のパブリッシャーが参加すればするほど学習データが蓄積されるので、サポート言語は増えていく見込みだ。
関連記事
- GoogleのAIライブラリ「TensorFlow」がVer.1.0に 高速化してより柔軟に、新APIも追加
Googleがオープンソースで公開しているディープラーニング対応の機械学習ライブラリ「TensorFlow」が“プロダクトレディ”なバージョン1.0にアップデートした。58倍高速化し、多数の新APIが追加され、Python APIの安定性が向上した。 - Twitter、永久凍結ユーザーの別アカウント作成阻止など3つの新いじめ対策
いじめ対策に取り組むTwitterが新たに3つの対策を発表した。永久凍結したユーザーによる別アカウント作成を阻止し、検索結果にユーザーがミュート・ブロックしたアカウントによるツイートを表示させないなどだ。 - 「死にたい」検索トップの「welq」の記事、DeNAが広告削除 「不適切」指摘受け
Googleで「死にたい」と検索すると、トップに表示されるwelqの記事に不適切な内容が含まれいる――こんな指摘を受け、DeNAは記事内のアフィリエイト広告を削除した。 - Facebook傘下のInstagram、不快なコメントを非表示にするフィルター機能追加(まずは英語で)
Instagramが、いじめや嫌がらせコメントを表示させないようにするフィルター機能を、まずは英語版で利用できるようにした。 - Google、「Google Now」などで採用の機械学習サービス「Cloud Machine Learning」公開
Googleは、Google Cloud Platformのサービス「Cloud Machine Learning」の無料トライアルの受付を開始した。開発者は「Google Now」や「Googleフォト」で採用するディープラーニング技術を利用できる。 - Googleのシンクタンク、Alphabet傘下の「Jigsaw」に改名
Googleの持ち株会社Alphabetのエリック・シュミット会長が、Googleのシンクタンク部門をAlphabet傘下企業Jigsawとしたと発表した。
関連リンク
Copyright © ITmedia, Inc. All Rights Reserved.