ネットの安全守るモデレーターの過酷な実態 アダルトサイト担当者は「毎日見させられてPTSD発症」

[鈴木聖子，ITmedia]

　いつも何げなく利用している投稿サイトやSNS。ユーザーが安心して見られるよう、違法コンテンツや残虐なコンテンツを見つけて食い止める役割を果たしているのがコンテンツモデレーターだ。しかしそうした動画を過酷な環境で見続けさせられて、心に深い傷を負ったモデレーターたちが相次ぎ声を上げている。

ネットの安全守るモデレーターの過酷な実態とは

　米アダルト投稿サイト「Chaturbate」のモデレーターだった米ラスベガス在住のニール・バーバーさんは7月、同サイトと運営会社を提訴した。「過激かつ暴力的で露骨なわいせつコンテンツを毎日見させられて心的外傷後ストレス障害（PTSD）を発症した」と訴え、Chaturbateがモデレーターを守るための対策を怠ったとして補償を求めている。

　Chaturbateはアダルトパフォーマンスのライブ動画配信サイト。訴状によると、ライブ配信のコンテンツは子どもに対する性的虐待や、自傷行為、自殺予告、過激な暴行、相手をおとしめたり人間性を奪ったりする極度にわいせつな性行為などのコンテンツが極めて多い。

　モデレーターはそうしたコンテンツを阻止する第一線の役割を果たしており「モデレーターがいなければ、Chaterbateはたちまち制御不能で危険かつ法的に脆弱な状況に陥りかねない」と原告側は訴える。

Chaturbateへの訴状

　しかしChaterbate側はそれを認識していながら、コンテンツのグレースケール処理や自動再生動画のミュート、健康を守るための休憩の義務付け、カウンセリングや精神的サポートの提供など、モデレーターを守る業界標準の対策を怠ったとされる。

　2020年にモデレーターとして採用されたバーバーさんは、こうしたコンテンツを見続けた結果「生々しい悪夢、感情のまひ、パニック発作など、PTSDの特徴とされる症状」を発症したと主張。同社モデレーターの集団代表訴訟として訴えを起こした。「心的外傷は予見できただけでなく、防ぐことが可能だった」と原告側は述べ、同社が最小限の対策でも講じていれば、そうした心の傷を負うことはなかったと訴える。

　Chaturbate運営会社の米Multi Mediaはメディア各社に寄せたコメントで「コンテンツモデレーションについては非常に真剣に受け止めており、モデレーターの業務を高く評価している。引き続きこの重要な作業を担うチームのサポートに尽力する」としている。

SNS大手への提訴相次ぐ

　コンテンツモデレーターが置かれた過酷な状況を巡っては、米Google傘下のYouTubeや、FacebookとInstagramの親会社である米Metaなどの大手を相手取った訴訟が世界各国で起こっている。

　英紙Guardianは4月、アフリカのガーナやケニアのコンテンツモデレーターがMetaを相次ぎ提訴したと伝えた。モデレーターは殺人や児童虐待などの暴力コンテンツを見続けたことで心的外傷を負い、うつや不安障害、不眠、楽物乱用などの症状に苦しんでいるという。

　ガーナのモデレーターは、人が皮をはがれたり、女性が斬首されたりする動画を見たことがあると訴えているという。多くはPTSDと診断され、自殺を図ったモデレーターもいるとGuardianは伝えている。

　「SNS大手各社は、規約違反のコンテンツを削除してAIにその作業を学習させる目的で、多くの場合、世界の最貧国で大量のコンテンツモデレーターを雇っている」（Guardian）。ガーナのモデレーターの場合、基本給は月額1300セディ（約1万8000円）程度で、実績に応じた報酬を加えても、首都アクラの生活費を大幅に下回るという。

　一方、YouTubeに対しては、残虐コンテンツを見させられて心的外傷を負ったというモデレーターが起こした裁判で、YouTube側が多額の損害賠償を支払う内容の和解が2022年に成立している。