未成年者との接触狙うユーザー検知　東大教授がネット犯罪防止システム開発、いじめにも対応

　SNSでの誘い出しやメッセージアプリを使ったいじめなど、ネット犯罪に巻き込まれる未成年者が後を絶たない。東京大学大学院工学系研究科の鳥海不二夫教授によると、ネットいじめを受けた経験のある未成年者は約6％、知らない人からメッセージを受信した未成年者は約41％にのぼるという。

　こうした状況を踏まえ、鳥海教授はSNS上で未成年者のネットリスクを事前検知するシステムを開発した。SNS上での誘い出しを検知するシステムと、いじめを検知するシステムの2種類だ。試験運用を進め、正式導入を目指す。

SNSでの誘い出し検知　利用状況など基にリスク評価

　誘い出し検知システムでは、未成年者を誘い出す可能性の高いSNSユーザーを特定し、被害に遭いそうなユーザーなどに「あなたの遊び方はトラブルに巻き込まれる可能性がある」という啓発メッセージを送信する。今後、サイバーエージェントが運営するコミュニケーションアプリ「ピグパーティ」で試験運用を行う。

　過去に規約違反をしたユーザーの行動データやユーザー同士の接触機会、SNSの利用状況などからリスク評価する仕組みだ。

　未成年者を誘うやりとりを検知するのが最も簡単だが、プライバシー保護の観点から会話内容を直接見ることは難しい。加えてTwitterのリプライなどオープンな会話は分析できるが、加害者が隠語を次々に編みだすためいたちごっこになる。こうした背景から接触機会に着目したと説明した。

　いじめ検知でもメッセージアプリ上の会話分析は困難なため、「いじめメッセージが多くなる時間帯」「被害者1人当たりの加害者数」など研究で明らかになった行動パターンを基にいじめ被害に遭っている可能性を判定する。いじめ被害の可能性がある場合に保護者へ通知する実験を、エースチャイルド（東京都台東区）の子ども見守りアプリ「Filii」で行っている。

保護者の課金でネット犯罪対策　「事業者との二人三脚が重要」

　保護者への意識調査では、「スマホ安全教室」のような取り組みへの支出は消極的な一方で、「誘い出し防止アプリ」のように具体的な効果を期待できる対策への課金には前向きという結果が出た。鳥海教授は、対策アプリへの課金額が約167億円集まるとの試算を示し、こうした資金を基にSNS運営者や事業者がネット犯罪に対策を打つことを期待できると指摘した。

　今回開発した誘い出し検知システムで担うのは、システム導入したSNS事業者に発見した危険を警告するまでだ。その後、啓発メッセージを出すか、加害者を強制退会させるかなど「サービス事業者が警告をどう扱うかは、事業者に任せる形になる。（目的を共有して）二人三脚で進めることが重要だ」（鳥海教授）。

　今後はサイバーエージェントでの実証実験がうまく進めば、ピグパーティに正式に導入されると見込む。鳥海教授は「特定のサービスに限らず、各サービスの特徴に合わせて調整すればシステムを適用できる。今後は開発したシステムを導入する事業者を増やしていく」とコメントした。

【修正履歴：2021年9月29日午後1時50分　同システムについてアプリ内で試験運用中としていましたが、追加の取材に基づき記述を変更しました。また、一部記述を修正しました。】

この記事の著者

関連記事

• 

  TikTokも未成年保護の新たな取り組み　InstagramやGoogleに続き

• 

  「ネット犯罪、自分は遭わない」未成年の大半　「自撮り送って」経験の女子高生は7％

• 

  攻撃者もこれなら”イイネ”と太鼓判を押してくれるかな？　いますぐやるべきSNSの基本設定

• 

  「いじめ」と戦うLINEの執念

• 

  Facebook、違反コンテンツ検出AI強化でいじめ検出率85％向上