　ヤフーは9月18日、「Yahoo!ニュース」に投稿されたコメントの順位付けに使っているAI技術を他社にAPIとして無償提供する試みを始めた。コメント投稿機能があるサービスを展開する日本国内の法人が対象。APIの連携によって自社サービスへの客観的なコメントを上位に表示させるなど、ネット上のコメント欄の健全化を後押しする。

ヤフーによる発表（一部抜粋）

　ヤフーは現在、深層学習を用いた自然言語処理モデルによって誹謗中傷などの悪質なコメントを検知し、1日に平均で約2万件を削除している。加えてコメントをスコアリングし、客観的で根拠を示しているコメントや新しい考えなどを示すコメントを上位に表示するAI技術「建設的コメント順位付けモデル」を採用。建設的コメント順位付けモデルのAPIを無償で提供する。

条件を満たすコメントに高いスコアを付与

　APIの連携によって事業者は、AIの開発に必要な学習データや計算コストなどの初期投資をかけずに、自社サービスへのコメントの健全化に役立てることができるという。

　今後もヤフーは誹謗中傷など悪質コメントに対する取り組みを進め、インターネット空間の健全化を目指すとしている。

ヤフー、“ヤフコメ”のパトロールAIを外部提供へ　1日に2万件の誹謗中傷を削除可能
ヤフーが、「Yahoo!ニュース」コメント欄の健全化のため使用しているAIを、外部の事業者にも提供すると発表した。1日に平均約2万件の悪質な投稿を削除できる自然言語処理モデルを横展開し、投稿型サービスの健全化を図る。6月中をめどに、悪質なコメントへの対策強化に向けた検討会も開催する。
“繋がりすぎる”ネット時代の誹謗中傷問題、解決策はあるのか
リアリティーショー番組でのSNS中傷を発端として、インターネット上の悪質な投稿に関する議論が盛り上がっている。その内容を整理してみた。
ヤフー、「コンプレックスを露骨に表現した」広告禁止を改めて通知　「差別を助長する」
ヤフーは、Yahoo!JAPAN広告で出稿を禁止している、「コンプレックス部分を露骨に表現した」出稿が最近、複数みられたとして、広告主に対して、そういった広告入稿をやめるよう改めて通知した。「一部の身体的特徴をコンプレックスであるとして表現することは、差別意識を温存、助長するものであり、決して許さるべきものではない」としている。
総務省、ネット上の誹謗中傷への対応のあり方について意見募集
総務省が「プラットフォームサービスに関する研究会」で議論している、インターネット上の誹謗中傷対策のあり方について、一般の人からの意見を募集している。
ヤフー×LINEは「AI」で世界に勝てるのか？　必要なのは「タイムマシンから降りること」
ヤフーとLINE、両社を追ってきた西田宗千佳氏が見る「One TeamでのAI戦略」。