検閲員の過労死で見えた、中国ネット検閲のリアル クラウドとAIでは足りない理由（4/4 ページ）

[山谷剛史，ITmedia]

なぜまだ人が必要なのか

　さてAIが急速に発展しているのに、なぜこれほど多くの検閲スタッフが必要なのか。数美科技の暁陽氏は環球網の記事の中で語る。

　「現段階ではまだ克服できないギャップがいくつかある。検閲を回避するための比喩や暗号や言葉遊びを見つけ出すことができず、またポルノコンテンツでもNGかOKかは定義が曖昧で人に決定が委ねられている。したがってAIテクノロジーは手動レビューに完全に取って代わることはできず、プラットフォームは依然として人間の経験と判断に基づいて検閲する必要がある。AIは補助的な役割を果たすことしかできないが、早い段階でフィルタリングを行い削除する点で役に立つ。多くの場合、コンテンツのレビューは人の手が必要になるのだ」

　かくしてAIによりふるいにかけられた無数のコンテンツを最終的にには人がチェックする。

さまざまなメッセージをAIでフィルタリング

　映像は画像やテキストよりも説得力がある。暴力的ポルノ的政治的な疑いをもたれているコンテンツを次から次へと見て判断する作業を延々続けるというのは実に苦痛な作業だ。ある検閲員は「動画のチェックはテキストの5倍も10倍もしんどい」という。ある動画サイトの検閲部門ではディスプレイに8〜12のウィンドウが開き同時に8倍速で見ていたという。またライブストリーミングのチェックを行う際は、16〜32の小さなウィンドウを開いて監視していたという。

　暮色木心氏はビリビリのヘビーユーザーでありファンだった。ファンだからこそビリビリで働くことを夢見て検閲員になった。中国のネット検閲員というとなんだか姿の見えない政治的思想の強い人々と想像するかもしれないが、学生時代によく見た動画が好きで勤務し、そして工場でぼろ雑巾のように働かされて捨てられるのが現実だ。また外国人ネイティブによる外国語の検閲については、予算や人材の問題から対応しきれないだろう。

　余談になるが、中国はゼロコロナを目指す中、上海で新型コロナウイルス感染患者が増え続け食材が満足に届かない状況となり、その不満を多くの人が微博や微信などのSNSでつぶやいた。

　情報があふれんばかりに出てくるのは、この検閲体制では検閲が追い付けない、つまり何のメッセージを消すかという判断ができず、AIも鍛えられていないため、というのも一因にあるのではないだろうか。