自画撮り被害から守る「TONEカメラ」搭載 子どものスマホデビューはトーンモバイルが安心（1/2 ページ）

中学生と高校生を中心に、スマホの「自画撮り被害」に遭うケースが増えていることをご存じだろうか。SNSで知り合った相手にだまされたり脅されたりして、子どもがポルノ画像を送付してしまうというもの。この自画撮り被害を防ぐスマホを提供しているのが、トーンモバイルだ。

[PR／ITmedia]

PR

　中学生と高校生を中心に、スマホの「自画撮り被害」に遭うケースが増えていることをご存じだろうか。SNSで知り合った相手にだまされたり脅されたりして、子どもがポルノ画像を送付してしまうというものだ。この自画撮り被害を防ぐスマホを提供しているサービスがある。それが「トーンモバイル」だ。トーンモバイルといえば、子どもの日常生活やネットでの活動を見守る機能が充実し、子どもに持たせるスマホとして安心の格安スマホでおなじみ。そんなトーンモバイルのサービスが、子どもの自画撮り被害からどう守るのか、見ていこう。

増える自画撮り被害、でも保護者の多くはそれを知らない

　警察庁が公表している統計資料によると、自画撮り被害に遭った子どもの数は年々増加している。被害事例としては、SNSで知り合い、親しくなった相手から裸の写真を送るようしつこく促されて送ってしまった、同性になりすました相手に体の悩み相談に乗ってもらったところ、相談に必要だから体の写真を送ってと頼まれ、送ってしまった、などがよくあるパターンだ。

自画撮り被害は年々増加しており、特に中高生の被害が多い（出典：警察庁「平成30年における子供の性被害の状況」※PDF）

　ただ、トーンモバイルの工藤陽介氏によると、より身近な場所で、軽い気持ちでやってしまったことから深刻な問題に発展してしまうことが意外に多いという。工藤氏は、トーンモバイルの「スマホあんしんラボ」で、中央省庁、全国の自治体、学校、団体などと連携して、スマホに関するさまざまな問題を解決するための情報や知識を広める活動を行っている。ネットの安全について学校で授業や講演を行ったり、学校関係者が参加するシンポジウムのファシリテーターを務めたりすることがあり、子どもたちや教師からトラブルの事例を聞くことがあるという。

トーンモバイルの工藤陽介氏

　例えば、“彼氏彼女”の関係になった相手からセクシーな写真を要求され、メッセージアプリで送ってしまう。送られた相手はその写真を、深く考えず、友達に見せたりSNSで共有したりして、そこから拡散する。また、注目されたいと思った女子が、自らSNSにセクシーな写真を公開してしまうこともあるという。

　「友達同士や先輩後輩くらいの近いところで、裸や下着姿の写真がやりとりされている方が多い印象を受けます」

　警察などのデータでは女子の被害が90％以上と圧倒的に多いが、男子の被害もあるので安心はできない。「男子でよくあるのが、自分で自分の性器を撮って友達に送ること。深く考えず、面白いからと気軽な気持ちで送ってしまう。すると、その写真が思ったより拡散して後悔する、というようなことが多いようです」（工藤氏）

警察庁は、子どもの性被害に関するパンフレットや資料をWebサイトで公開している。自画撮り被害についても、その手口を解説したマンガがあるので、ぜひ確認しておきたい

AIで不適切画像を瞬時に判別、保存させない「TONEカメラ」

　このような自画撮り被害を防ぐ目的で、トーンモバイルの最新スマホ「TONE e20」には、裸や下着姿の写真を撮ろうとしても、AIが判定して写真を撮らせないようにする「TONEカメラ」アプリが搭載されている。

「TONEカメラ」を標準搭載した「TONE e20」

　「以前は、ネットの被害といえば悪口やプライバシーに関わることを書かれるといったテキストによるものがベースでした。それが、2013年頃から写真による被害が多くなり、ここ最近は動画で投稿されるようになってきています。対策すべきはカメラだろうと考えました」

TONEカメラで裸などの不適切な写真を撮ろうとすると、このような画面になり撮影できない。もちろん、画像は保存されない

　TONE e20には標準のカメラアプリもプリセットされているが、子どものスマホのアプリ利用制限、居場所確認、Webフィルタリングなどの機能がまとまった家族向け見守りサービス「TONEファミリー」を利用して標準カメラ機能を使えなくすると、TONEカメラだけを使うように設定できて安心だ。

TONEファミリーを利用すると、保護者の端末から子どもの端末をコントロールできる。アプリそれぞれの利用時間を設定したり、利用状況を把握したりできる

　TONEカメラのニュースは、国内のテレビや大手新聞はもちろん、海外メディアにも掲載され、注目されている。児童ポルノに対する問題意識は各国で共通のものなので、横展開が実現されれば、より広く浸透していく可能性がある。一方で、AIで画像を判定している技術的な仕組みへの注目度も高いそうだ。

　画像の判定は、端末内部で行われる。汎用（はんよう）的に使われている学習データに、精度を高めるためにトーンモバイルが用意したデータも加え、相当な数の学習を重ねてAIが適切／不適切を判定している。社内検証では、同社が不適切だと思う写真はしっかりブロックされているという。

　この判定において、ユーザーが撮影した画像を活用したり、サーバに送信したり、通信の途中で判定するといったことは一切ないため、通信の秘密にも抵触しない。不適切画像の撮影があったことを保護者に知らせる際、撮った写真を小さなサムネイルにして、かつモザイクをかけたものが送信される。ローカルの端末の機械の中で判定され、AIが不適切と判定した画像は保存されない。トーンモバイル側が、ユーザーが何を撮影しようとしたかは把握できないようになっている。

　ポルノと判定される画像は、肌の色や人種で左右されることはないという。AIにわいせつだと判断されればブロックされる。例えば、盗撮などによくあるスカートの中の画像もブロックされる。また、警察に赴き、児童ポルノとして押収された実際の画像も正しくブロックできることを、トーンモバイル側で確認している。

　「TONEカメラのことで警察庁や各県警の方々と意見交換させてもらったときに、彼らから、『自画撮り被害が急増しているが、被害が世間にあまり知られていない。TONEカメラは、自画撮り被害の認知を高めるきっかけになるのでは』とコメントいただきました。発表した際のメディアやSNS上での反響も大きく、注目度が高いのを感じています」

　今後もグループ会社と協力し、AIの精度を高め、サービスを向上させていきたいと意気込んでいる。