AIで“不適切コメント”撃退に効果 ヤフーが検証結果を発表

ヤフーによると、「Yahoo!ニュース コメント」に不適切なコメントを繰り返し投稿するアカウントが、AIを活用した投稿時注意メッセージの掲出によって減少したという。その理由とは。

[ITmedia]

　ヤフーは2021年2月16日、「Yahoo!ニュース」のコメント欄「Yahoo!ニュース コメント」にAI（人工知能）による投稿時注意メッセージを掲出したことで、不適切なコメントを繰り返し投稿するアカウントが減少したと発表した。

不適切な投稿を繰り返すユーザーに掲出される、投稿時の注意メッセージ（出典：ヤフー）

　ヤフーは、同社が開発した「深層学習を用いた自然言語処理モデル」（以下、AI判定モデル）を活用し、誹謗中傷などの不適切な投稿を1日当たり平均約2万件削除している。

併せて読みたい関連記事

• 4900万人のデータを持つヤフー　コロナ禍で起こった「分析ニーズの激変」は、組織向けデータ事業をどう成長させたか
• コメント投稿の「良し悪し」をAIが点数評価　ヤフーがAPIを無償提供
• ヤフーが“違反コメント”検知制度を2倍に向上　深層学習モデル活用で

要注意アカウント“へのイエローカード”　その効果は？