Tinder、不適切なメッセージをAIで検知・警告 ハラスメント抑止に

米Tinderが、マッチングアプリ「Tinder」日本版にハラスメントの抑止に向けた新機能を追加する。不適切なメッセージを送るユーザーをAIで検知し、送信前に警告文を表示。無視してメッセージが送信された場合は、受信側に通報を促す通知を行う。

[吉川大貴，ITmedia]

　マッチングアプリ「Tinder」を運営する米Tinderは5月21日（日本時間）、マッチング相手に不適切なメッセージを送ろうとするユーザーに対し、AIを活用して送信前に警告文を表示する機能を日本でも提供すると発表した。5月下旬に追加する。

警告のイメージ

　通報されたメッセージデータを学習させたAIで、ユーザーが送るチャットの内容を分析。不適切な言葉を含む場合、送信前に「相手はこの言葉を失礼だと感じるかもしれません。本当にこのまま送信しても大丈夫ですか？」などの警告文を表示する。ユーザーが警告を無視してメッセージを送信した場合、受信側に通報を促す通知を行う。

　Tinderが米国で行ったテストでは、ユーザーが送るメッセージに含まれる不適切な言葉の割合が、警告文表示の実施前に比べて10％以上減ったという。不適切なメッセージを通報するユーザーも約46％増えたといい、ハラスメントの抑止に役立つと判断できたことから、日本での導入に至ったとしている。

【訂正：2021年5月24日午後4時15分】当初、米Match Groupは5月21日〜としていましたが、正しくは米Tinderでしたので修正しました。