LINEとFacebookにみるグループ悪用対策の難しさ：ITはみ出しコラム

[佐藤由紀子，ITmedia]

　LINEが8月19日、メッセージアプリ「LINE」のグループトーク機能を拡張した「OpenChat」を始めました。

　従来のグループトークはLINE内で友だちになっていないと参加できませんが、OpenChatは友だちじゃない人が開いたトークルームにも参加できます。しかもプロフィールをトークルームごとに変えられます。1つのトークルームには最大5000人参加でき、招待制の非公開ルームも開設できます。

LINEの「OpenChat」。トーク画面の上にある「オープンチャット」から利用できます

　Facebookが2010年にスタートした「Facebook Groups」（以下、「Facebookグループ」）をご存じなら、「似ているかも」と思われたかもしれません。

　大きな違いは、Facebookグループはアカウントのプロフィールのまま（原則は実名）でしか参加できませんが、OpenChatは匿名にできるところ。実名参加のFacebookグループでもいろいろ問題が起きているのに、匿名にしたらどうなることやら……。

　心配した通り、OpenChatはサービス開始直後から禁止されているはずの「交際相手を募集する投稿」や「わいせつな表現や画像・動画の投稿」が問題になっています。

　これに対し、LINEは「利用規約やLINE内部で運用するオープンチャットガイドラインに違反した場合は、投稿の削除、強制退会、OpenChatの利用停止に加え、LINEアプリ本体の利用停止の措置を行いますのでご注意ください」と警告し、違法行為の取締を強化しています。

LINEが公開しているOpenChatの禁止行為

　Facebookグループでも、多数の出会い系グループが生まれました。2016年には、そうしたグループの1つに参加した13歳の少女が、18歳の大学生に殺害されるという事件（Washington Postの記事）が起きています。

　Facebookでフェイクニュースがまん延して2016年の米大統領選の結果に影響したことも、グループ内の「フィルターバブル」の影響が大きいとみられています。

　Facebookは問題が発生する度にコミュニティー規定を改善し、問題検出のためのAIを強化し、問題を発見するための人間の監視員、モデレーターを増員していますが、まだ決定的な解決策を見つけていません。

2010年にスタートした「Facebook Groups」

　7月には、非営利のオンラインメディアProPublicaが、9500人が参加する秘密のFacebookグループの実態を報じました。グループ内では、移民に関するひどいジョークや、スペイン系米国人であるアレクサンドリア・オカシオ・コルテス議員に対する人種差別的な合成画像がまん延していました。

　グループ内では9500人の結束の固いメンバーが、のびのびと差別的な発言を楽しんでいました。中には明らかにFacebookのコミュニティー規定違反なものもあります。内輪の仲間でとんでもない話をする人はリアル世界でもいますが、その規模が違います。9500人の内輪です。

　内輪での過激な発言を外部に“チクる”人はあまりいません。秘密グループも同じです。結束が固いのです。だから、例えコミュニティー規定に違反していても、内部からの報告は期待できません。

　Facebookも、内輪からの報告に期待しているだけではなく、秘密グループに対しても、お得意のAIでの問題検出をしています。例えグループを秘密設定にしていても、AIでチェックしていますが、FacebookのAIをもってしても、これらは検出されなかったようです。

　このグループは現在はアーカイブされていますが、似たようなグループが誕生し、似たようなメンバーが集まる可能性はあります。

　それでもFacebookはグループをやめようとはしていません。むしろ、ニュースフィードからグループへのシフトを強めており、8月に入ってグループの公開設定を改善したばかりです。

　8月の改善では同時に、フィルターバブル対策も強化しました。問題投稿を検出するAIの性能を高め、モデレーターが規約違反だと判断した投稿をグループの管理者が放置すると、グループ全体を罰するように、ポリシーを改定しました。

　AI開発ではGoogleやMicrosoftと共に先端を行くFacebookが本気出して根気よく対処し続ければ、問題は軽減していけるかもしれません。

　Facebookグループは悪用されているだけでなく、人々の助けになっているものも多数あります。その多くは秘密のグループなので世間にはあまり知られていませんが、しっかりした管理者が慎重にメンバーを選べば、理想的なコミュニティーを作れる可能性があります。

---

　LINEのOpenChatも、それなりの覚悟を持ってスタートしたサービスなのでしょう。「やっぱりやめます」などということなしに、改善していってほしいものです。