LINEとFacebookにみるグループ悪用対策の難しさ:ITはみ出しコラム
LINEが友だち以外ともトークできる「OpenChat」機能を始めました。原則的に実名で参加するFacebookグループでもいろいろ問題が起きているのに、匿名にできるOpenChatはどうなることやら……。と思ったら、やはり不適切な投稿が問題になっています。
LINEが8月19日、メッセージアプリ「LINE」のグループトーク機能を拡張した「OpenChat」を始めました。
従来のグループトークはLINE内で友だちになっていないと参加できませんが、OpenChatは友だちじゃない人が開いたトークルームにも参加できます。しかもプロフィールをトークルームごとに変えられます。1つのトークルームには最大5000人参加でき、招待制の非公開ルームも開設できます。
Facebookが2010年にスタートした「Facebook Groups」(以下、「Facebookグループ」)をご存じなら、「似ているかも」と思われたかもしれません。
大きな違いは、Facebookグループはアカウントのプロフィールのまま(原則は実名)でしか参加できませんが、OpenChatは匿名にできるところ。実名参加のFacebookグループでもいろいろ問題が起きているのに、匿名にしたらどうなることやら……。
心配した通り、OpenChatはサービス開始直後から禁止されているはずの「交際相手を募集する投稿」や「わいせつな表現や画像・動画の投稿」が問題になっています。
これに対し、LINEは「利用規約やLINE内部で運用するオープンチャットガイドラインに違反した場合は、投稿の削除、強制退会、OpenChatの利用停止に加え、LINEアプリ本体の利用停止の措置を行いますのでご注意ください」と警告し、違法行為の取締を強化しています。
Facebookグループでも、多数の出会い系グループが生まれました。2016年には、そうしたグループの1つに参加した13歳の少女が、18歳の大学生に殺害されるという事件(Washington Postの記事)が起きています。
Facebookでフェイクニュースがまん延して2016年の米大統領選の結果に影響したことも、グループ内の「フィルターバブル」の影響が大きいとみられています。
Facebookは問題が発生する度にコミュニティー規定を改善し、問題検出のためのAIを強化し、問題を発見するための人間の監視員、モデレーターを増員していますが、まだ決定的な解決策を見つけていません。
7月には、非営利のオンラインメディアProPublicaが、9500人が参加する秘密のFacebookグループの実態を報じました。グループ内では、移民に関するひどいジョークや、スペイン系米国人であるアレクサンドリア・オカシオ・コルテス議員に対する人種差別的な合成画像がまん延していました。
グループ内では9500人の結束の固いメンバーが、のびのびと差別的な発言を楽しんでいました。中には明らかにFacebookのコミュニティー規定違反なものもあります。内輪の仲間でとんでもない話をする人はリアル世界でもいますが、その規模が違います。9500人の内輪です。
内輪での過激な発言を外部に“チクる”人はあまりいません。秘密グループも同じです。結束が固いのです。だから、例えコミュニティー規定に違反していても、内部からの報告は期待できません。
Facebookも、内輪からの報告に期待しているだけではなく、秘密グループに対しても、お得意のAIでの問題検出をしています。例えグループを秘密設定にしていても、AIでチェックしていますが、FacebookのAIをもってしても、これらは検出されなかったようです。
このグループは現在はアーカイブされていますが、似たようなグループが誕生し、似たようなメンバーが集まる可能性はあります。
それでもFacebookはグループをやめようとはしていません。むしろ、ニュースフィードからグループへのシフトを強めており、8月に入ってグループの公開設定を改善したばかりです。
8月の改善では同時に、フィルターバブル対策も強化しました。問題投稿を検出するAIの性能を高め、モデレーターが規約違反だと判断した投稿をグループの管理者が放置すると、グループ全体を罰するように、ポリシーを改定しました。
AI開発ではGoogleやMicrosoftと共に先端を行くFacebookが本気出して根気よく対処し続ければ、問題は軽減していけるかもしれません。
Facebookグループは悪用されているだけでなく、人々の助けになっているものも多数あります。その多くは秘密のグループなので世間にはあまり知られていませんが、しっかりした管理者が慎重にメンバーを選べば、理想的なコミュニティーを作れる可能性があります。
LINEのOpenChatも、それなりの覚悟を持ってスタートしたサービスなのでしょう。「やっぱりやめます」などということなしに、改善していってほしいものです。
関連記事
- LINE、友だち以外ともグループトークができる「OpenChat」提供開始
LINEは、8月19日にグループ機能を拡張した新機能「OpenChat」を提供開始。興味関心事やライフスタイルの共通点をベースに、友だち登録をしていないユーザーともグループトークや情報交換を楽しめる。 - 朝起きてから寝るまでをサポート LINEが目指す“Life on LINE”戦略
LINEが6月27日、最新のテクノロジーやサービスを披露する「LINE CONFERENCE 2019」を開催した。同社は「Life on LINE」という戦略を掲げ、ユーザーの1日をサポートできるよう、多彩なサービスを展開する。キーになる技術は「オフライン」「フィンテック」「AI」の3つだ。 - LINEアカウントの引き継ぎ方法が変更、今後はパスワード登録も必須に
LINEは、コミュニケーションアプリ「LINE」のアカウント引き継ぎ方法をより分かりやすい画面表示とフローにアップデート。これに伴い、新規登録時に電話番号だけでなくパスワードの登録を必須化して引き継ぎに適した環境作りを行う。アカウントの引き継ぎは従来の方法でも可能だが、順次新しい方法に切り替わる予定。 - ドコモの一部機種で「LINE」アプリが提供終了 プッシュ通知も停止
NTTドコモの一部機種が、2019年9月頃にコミュニケーションアプリ「LINE」を提供終了。2020年3月頃にも一部機種でプッシュ通知が停止し、アプリを起動していない間に受け取ったメッセージの通知、無料通話の着信通知を受け取れなくなる。 - Facebookが「プライバシー重視」に方向転換 その本当の狙いは?
米Facebookのマーク・ザッカーバーグCEOが発表した「プライバシー重視のソーシャルネットワーキングビジョン」は、大きな方向転換として米国で注目を集めています。個人情報の取り扱いで批判を浴び続けてきた同社は、どう変わろうとしているのでしょうか。
Copyright © ITmedia, Inc. All Rights Reserved.