金子氏：そうですね。ただ、やはりその仕組みを整えておくことが大切だと思っています。つまり、何か問題が発生したときに、きちんと保護者の方がご連絡いただける仕組みがあることで、弊社側もそのような事案を取りこぼさない、つまり放置していることにならない。そのようなチャネル（手段）がちゃんと整備されていることは、大切だと思います。

24時間365日、動画を審査

――投稿されたコンテンツなどの監視は、日本では日本語が分かる担当者が行っているのか

金子氏：TikTokでは、世界の各国・各地域に審査チームが存在しています。日本にも、日本語を主要言語とする審査チームが存在しています。TikTokでは、全ての動画について24時間365日審査を行っています。

　全世界共通のコミュニティガイドラインがあります。グローバル基準のガイドラインを策定し、誰でも見られるよう公表もしています。

　実際の審査で運用していくときには、日本の社会規範や文化的な背景もきちんと加味しています。

TikTokのコミュニティガイドライン　同社説明資料より

――審査を行う担当者へのトレーニングは

金子氏：例えば、新しい違反事例や、社会問題になっている「なりすまし」など、違反のコンテンツの傾向は日々、変わっています。

　新しい情報についても、常に審査員にトレーニングを行っています。モデレーションは人間の審査員と自動モデレーション技術の両方を用いています。自動モデレーション技術にも、新たな違反事例の情報などを学習させて対応しています。

――暴力や過激な性描写を含むコンテンツもあるが、監視する人の心のケアは行われているのか

金子氏：弊社は、メンタルケアには非常に力をいれています。定期的に、医療的な観点の専門家の意見もいただきながら取り組んでいます。

「透明性センター」を設置

――アメリカの2カ所を始めシンガポールなどには、TikTokの透明性を説明する施設が設置されている。どういった施設か

金子氏：透明性・説明責任情報公開センター（TAC）は、モデレーション審査がどんなふうに行われているのか、それを体験していただけたり、自動モデレーション技術をご覧いただけたりする施設になっています。

TikTokのシンガポールにある「透明性・説明責任情報公開センター（TAC）」＝同社説明資料より

――日本での設置予定はあるか

金子氏：現時点では、日本では予定はありません。（海外の施設も）一般の方に公開しているわけではありません。

捜査機関や政府とも連携

――TikTokに関係する犯罪については、捜査機関などと連携して対応しているのか

金子氏：捜査機関とは、以前から弊社の特別なシステムを通じて（犯罪に関する）情報をいただく取り組みをしています。新たに、詐欺関連、迷惑バイトといった犯罪行為について、利用されたアカウントを直接弊社に情報をいただけるシステムを開設しました。

　ほかにも、違法・有害情報相談センター、インターネット・ホットラインセンターとも、不適切なコンテンツについては情報提供を受ける体制を構築しています。

――TikTokは犯罪に使われやすいのか

金子氏：コミュニティガイドラインにおいては、もちろん違反であり、弊社の審査等において、そのようなコンテンツを見つけたときには、こちらから全て適切な対応をしています。ただ、それだけではなかなか解決できない。日本全体で起きている事象については、われわれプラットフォームがただ削除しても、外でつながっていることもある。捜査機関、そして政府とも連携をしながら、多面的に（犯罪対策を）進めているところです。

中国以外でデータ管理

――ユーザーデータはどこに保存されているのか

金子氏：日本のユーザーデータは、シンガポール、マレーシア、アイルランドおよび米国などに保管されており、各国の適用法令等を順守する形で取り扱っています。

――中国にデータは保存されていないのか

金子氏：日本のユーザーデータに関しては、中国以外の各国で取り扱っています。TikTokでは、これまで中国政府に対し、日本のユーザーデータを共有したことはありません。また、そのような共有の要求も受けたこともありません。仮にそのような要求があった場合でも、それにTikTokが応じることはない体制でやっています。また、もちろんTikTokは中国本土では利用できません。

子供と話し合いを

――最後に、未成年や保護者の方へのメッセージを

金子氏：安心安全に使っていただくことが大前提で、一番大切だと考えています。お子さんからすると、親御さんとそういうお話をするのは、ちょっと恥ずかしいかもしれないですが、ご家庭に帰られたら、一度「自分は、実は最近こういうものを見ているんだけれども」と話す時間を持っていただけたらなと思います。

　逆に、保護者の方とお話しすると、「子供の方がよく分かっているんだよね」とよくおっしゃっています。むしろ、お子さんからすると、親御さんに教えてあげる形でお話をしていただけたらいいのかなと思います。

　「今こんなことを、こんなふうに使っているんだよ」「学校で友達とはこんなお話をしているんだよ」。そうすると、親御さんも「それだったら安心だね」と思ってくれるかもしれません。また、「こういう安全機能を使ってみよう」と、一緒により良い使い方を考えていただけるのかなと思います。

　未成年の方も含め、使われる皆さん一人ひとりに、どう使いたいか、どう使いたくないかを、一度立ち止まって考えていただく時間を持っていただきたいと思います。

　例えば、誹謗中傷のようなコメントを知らずにしてしまって、知らないうちに自分も加害者になってしまうというようなケースも、これまでもあったかと思います。あるいは、知らずに偽の情報に触れ、うのみにしてしまったこともあるかと思います。

　何か情報に触れたときに、立ち止まって「本当なのか」「自分が拡散したらどういう影響が出てしまうのか」と考えてみる。自分のオンラインでの行動が、その後、社会にどう影響してしまうのか。考えながらデジタルプラットフォームを使っていただきたいと思います。そのための考える機会を、何かの機能で提供したい。ヒント、視点を提供させていただくことも、引き続き考えていきたいと思っています。

一概に制限するわけではなく、安心安全に使っていただきたい。まだまだ足りてない部分もあると思うので、投資や努力を続け、グローバルに取り組んでいきたいと考えております。