ヤフー、“ヤフコメ”のパトロールAIを外部提供へ 1日に2万件の誹謗中傷を削除可能

ヤフーが、「Yahoo!ニュース」コメント欄の健全化のため使用しているAIを、外部の事業者にも提供すると発表した。1日に平均約2万件の悪質な投稿を削除できる自然言語処理モデルを横展開し、投稿型サービスの健全化を図る。6月中をめどに、悪質なコメントへの対策強化に向けた検討会も開催する。

[ITmedia]

　ヤフーは6月1日、「Yahoo!ニュース」コメント欄の健全化に向けて使用しているAIを、外部の事業者に提供する方針を明らかにした。ヤフーでは現在、深層学習を用いた自然言語処理モデルによって、個人への誹謗中傷などの悪質なコメントを検知し、1日に平均で約2万件を削除している。この技術を横展開し、他社を含めた投稿型サービスの健全化を図る。

ヤフーによる発表

　ヤフーは2019年11月に、コメントデータを学習させたAIと、ディープラーニングに特化した独自のスーパーコンピュータ「kukai」を組み合わせた判定モデルを導入。悪質な“ヤフコメ”を大量に検知・削除する仕組みを整えてきた。今後はこうした自社での対策もさらに強化するとしている。

　同社はこの他、悪質なコメントへの対策強化に向け、法律家や有識者を交えた検討会を6月中に開催。企業が悪質な投稿を削除する際に生じる法的・実務的課題と、その対処法について議論するという。検討会の結果は後日公表する予定。

　SNSなどでの誹謗中傷を苦にして「テラスハウス」出演者でプロレスラーの木村花さんが亡くなったとされる問題を踏まえた施策。