SHOWROOM、誹謗中傷コメントの監視AIを開発 “遠回しな言い方”でも検知して自動通報
SHOWROOMは2月22日、誹謗中傷コメントを監視するAIを開発し、仮想ライブ空間「SHOWROOM」に新機能として搭載したと発表した。不適切なコメントをユーザーの代わりにAIが通報する。
新機能のイメージ図
新たに開発したコンテンツモデレーションAI機能では、ユーザーの代わりに悪質なコメントをAIが検知する。AIの開発にはディープラーニングを応用し、従来のキーワードによる検出ではなく、コメントの文脈をニューラルネットワーク上で抽象化する。
同社の開発チームによると「日本語特有の遠回しな言い方や、複数回に分けてコメントをするなど、従来の手法では難しかった悪質なコメントも検出することに成功した」という。これにより、コメントの悪質性をAIが即時に判断でき、将来的には投稿前に自動削除することもできるという。
【訂正：2021年2月24日午後2時30分 AIが不適切な投稿を自動で削除する機能について、記事初出時にはすでに搭載されたものとしていましたが、正しくは今後実装する予定でした。訂正してお詫びいたします。】
これまでは視聴者や配信者自身が通報し、運営側の監視チームが削除する流れだった。同社は「不快なコメントを、ライバーや別の視聴者が目にする機会を大幅に軽減できる」としている。
同社の開発チームは「コンテンツモデレーションの世界では、英語や中国語に対しての研究はされているものの、日本語での研究はほとんどないのが実態だった」と説明。AIが悪質コメントを事前に察知し、投稿前に削除する機能は、日本初（同社調べ）といい、特許を出願中。
同社は「最終的には『SHOWROOM』内で、 悪質コメントの100%排除に限りなく近くなることを目指す」とコメントしている。
SHOWROOMのオフィス
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
こんなメディアも見られています
ITmedia NEWSに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
本日の新着記事
アクセスランキング
-
1
なぜ酒蔵の許諾なしに？ 「VTuberコラボ日本酒」騒動、主催者が経緯説明 仲介者による調整で「準備進んでいると認識」
-
2
かっぱ寿司「配布前のコラボグッズ、フリマで買わないで」 プリキュアコラボ発表日に注意喚起
-
3
「食事量は1日1200kcal以下、でも肥満」な人を14日間追跡調査 痩せない理由は……米コロンビア大などの研究
-
4
本物そっくり“AI生成レシート“が経費精算の脅威に マネフォ「自力で見破るのは難しい」 企業はどう備える？
-
5
「菜の花がおかしい」――イラストレーター制作うたうマラソン大会ポスターに指摘相次ぐ 事務局がAI使用明かす【訂正あり】
-
6
「ペンギンを返して」 Suica新キャラ候補3案公開でSNSに戸惑いの声 一般投票は8日から
-
7
幻の「ちいかわ」コラボ第3弾皿、捨てちゃうの？ くら寿司に聞いてみた
-
8
「ペンギンを返して」→「3匹全部採用して」 批判殺到のSuica新キャラ、ファンアートが空気を変えた？ SNSの声
-
9
藤井風のリサイタル、公式サイトがインターネット老人会すぎると話題 公民館のチラシみたいだけど東京ドーム開催
-
10
「iPhone Duo」純正ケース話題、「面白いけど高い」……1万4800円と2万4800円
ITmedia NEWS SNS
@itmedia_newsをフォロー
インフォメーション
注目情報をチェック
ITmediaNEWSをフォロー
あなたにおすすめの記事PR