SHOWROOM、誹謗中傷コメントの監視AIを開発 “遠回しな言い方”でも検知して自動通報
SHOWROOMが誹謗中傷コメントを監視するAIを開発し、仮想ライブ空間「SHOWROOM」に新機能として搭載したと発表。不適切なコメントをユーザーの代わりにAIが通報する。
SHOWROOMは2月22日、誹謗中傷コメントを監視するAIを開発し、仮想ライブ空間「SHOWROOM」に新機能として搭載したと発表した。不適切なコメントをユーザーの代わりにAIが通報する。
新たに開発したコンテンツモデレーションAI機能では、ユーザーの代わりに悪質なコメントをAIが検知する。AIの開発にはディープラーニングを応用し、従来のキーワードによる検出ではなく、コメントの文脈をニューラルネットワーク上で抽象化する。
同社の開発チームによると「日本語特有の遠回しな言い方や、複数回に分けてコメントをするなど、従来の手法では難しかった悪質なコメントも検出することに成功した」という。これにより、コメントの悪質性をAIが即時に判断でき、将来的には投稿前に自動削除することもできるという。
【訂正:2021年2月24日午後2時30分 AIが不適切な投稿を自動で削除する機能について、記事初出時にはすでに搭載されたものとしていましたが、正しくは今後実装する予定でした。訂正してお詫びいたします。】
これまでは視聴者や配信者自身が通報し、運営側の監視チームが削除する流れだった。同社は「不快なコメントを、ライバーや別の視聴者が目にする機会を大幅に軽減できる」としている。
同社の開発チームは「コンテンツモデレーションの世界では、英語や中国語に対しての研究はされているものの、日本語での研究はほとんどないのが実態だった」と説明。AIが悪質コメントを事前に察知し、投稿前に削除する機能は、日本初(同社調べ)といい、特許を出願中。
同社は「最終的には『SHOWROOM』内で、 悪質コメントの100%排除に限りなく近くなることを目指す」とコメントしている。
関連記事
- ライブ配信「SHOWROOM」で社内イベントやセミナーも 企業向け「ビジネスパッケージ」発売
SHOWROOMを使って企業が社内・社外向けにライブ配信できる「SHOWROOMビジネスパッケージ」がスタート。オンラインセミナーや社内イベント、採用面談など、さまざまな規模のイベントに対応できるという。 - SHOWROOM、スマホ特化の短尺動画アプリ コンテンツ第1弾は「Hey! Say! JUMP」
SHOWROOMがスマホで短尺の動画を視聴できるアプリ「smash.」(iOS/Android)の提供を始めた。価格は月額550円(税込)。 - SHOWROOMとマイナビが資本業務提携 コロナ下の人材事業に動画活用
SHOWROOMとマイナビが資本業務提携。SHOWROOMのライブ配信技術とマイナビの採用ビジネスを結びつけ、コロナ下での新たなビジネスモデルを構築する。 - SHOWROOMに超低遅延ライブ配信機能 タイムラグは最小0.5秒台に
ライブ配信サービス「SHOWROOM」の低遅延モードを改良し、配信者と視聴者の間に発生するタイムラグを最小0.5秒台に抑えた「超低遅延モード」を実装した。 - SHOWROOMに有料ライブ配信機能 新型コロナで苦境の配信者に収益化手段を提供
SHOWROOMは、同社サービス「SHOWROOM」に有料ライブを配信する機能「プレミアムライブ」を追加した。新型コロナウイルスの影響で活動自粛が続く配信者に、収益化の手段として提供する。
関連リンク
Copyright © ITmedia, Inc. All Rights Reserved.