ヤフーが“違反コメント”検知制度を2倍に向上 深層学習モデル活用で：AIは“クソコメ”を撲滅できるのか

ヤフーは、「Yahoo!ニュース」で違反コメントへの対策をさらに強化した。同社のスーパーコンピュータであるkukaiで、新たな判定モデルを実行したという。

[ITmedia]

　ヤフーは2020年3月6日、「Yahoo!ニュース」の違反コメントへの対策をさらに強化したと発表した。違反コメントとは、Yahoo!ニュースにユーザーが寄せたコメントのうち、「暴力的」「差別的」「過度に品位に欠ける」などの理由で同社のポリシーに違反するもの。今回の取り組みに、ヤフーは「深層学習を用いた自然言語処理による判定モデル（AI）」を、同社が独自に開発した深層学習特化型スーパーコンピュータ「kukai」で稼働させた。

新たな違反コメント対策について報じるヤフーのブログ（出典：ヤフー）

　同社はこれまでも、人手や機械学習による違反コメント対策を実施してきた。Yahoo!ニュースのユーザーから違反報告があった記事や閲覧数の多い記事、特定ジャンルの記事など優先順位を付け、違反コメントの削除や悪質なユーザーのアカウント停止といった処置を、主に人手で行ってきた。

今後は判定モデルを活用して“コメント表示順の入れ替え”も？