トーンモバイルがドコモのスマホ94機種で利用可能に 「TONE IN」の狙いとは（2/2 ページ）

[金子麟太郎，ITmedia]

スマホ上で動作するエッジ型LLMによる生成AIシステム、「freebit Edge LLM」の詳細も発表

　主な発表内容をまとめると、TONE IN戦略によって、子ども、シニア、そうではない一般的なユーザーなど、「幅広い世代のライフスタイル」に合ったトーンモバイルのサービスが利用可能になった、ということだ。

　また、スマートフォン上で動作するエッジ型LLMの生成AIシステムとして、フリービットが2024年3月19日に発表した「freebit Edge LLM」についても、石田氏が改めて解説した。

フリービット代表取締役社長兼トーンモバイル代表の石田宏樹氏

「freebit Edge LLM」は2024年3月19日に発表されたばかりだが、その詳細を石田氏が解説した

　freebit Edge LLMは通常のキーワードのデータベースなどをもとに判断するフィルターシステムではなく、スマートフォンに送信されたSNSの通知のテキストをAIが探知して危険度を判断する仕組みだ。TONEファミリーの仕組みを活用し、その危険度を見守り側の保護者に通知するシステムを構築する予定だという。

　同社によると、「こちらはまだテクニカルプレビューの段階にあり、今後アップデートを重ねていく」としている。発表段階では、通知テキストの検出と判断の対象は「LINE」「Instagram」「X（旧Twitter）」などのSNSだけでなく、SMSや「＋メッセージ」など。

SNSだけでなく、SMSも通知テキストの検出と判断の対象となる

　これは「フリービットが持つAIエンジンと学習方法の2つをマージ」（石田氏）したようなものになっており、「基本的にSNSのいじめや誹謗中傷犯罪被害を、データベースやキーワード型ではなく包括的に判断して、これに対する危険度を生成するようなモデル」（石田氏）だという。

メッセージの安全性判断から文章生成までの流れ

実際に送られてきそうなメッセージの一例

freebit Edge LLMを活用して生成された文章と、不適切度（ニュースリリースでは危険度という言葉が使用されている）

　危険度は言葉ではなく文章として送られてきた場合に判断されるという。例えば、「とても簡単な作業でたくさん稼げます」という“闇バイト”で用いられる文言などが送られてきた場合、基本的には「プロンプトを生成AIに投げて、文章を含む結果を生成する」（石田氏）ような流れとなる。

　この危険度の判断の際に、外部サーバーなどに情報が送られることはなく、端末内だけで危険度を割り出すため、「SNSの通信内容が外部サーバに送られたり、保存されたりすることはない」としている。

　危険度だけでなく、さらに高精度な分析が必要になる場合は、「フリービットのデータセンター内にあるより大規模の生成AIシステムや、ChatGPTと連携して分析を行う」（石田氏）ことも可能だが、この場合は「ユーザーによる許諾の上、データが外部に送られる」そうだ。

　トーンモバイルでは、これまでも「テクノロジーによる社会問題の解決」を目指し、子どものスマホ依存や、インターネットによるトラブルを防ぐサービスも重視しており、不適切画像を検知して遮断する「TONEカメラ」を提供している。裸やそれに近い服装などAIが不適切な画像と判定した場合、画像が本体や各種クラウドサービスに保存されなくなる。

「TONEカメラ」もAIを活用したサービスの1つだ。東京都青少年健全育成条例で推奨するカメラアプリ機能に認定されている

不適切画像が検出された場合の通知（親側のスマートフォンに届いた）内容

　フリービットでは、今後、freebit Edge LLMの精度向上を目的に、web3型ステークホルダーコミュニティ実証実験「One Vision」を利用した利用者参加型の学習データの強化の仕組みなどにも取り組んでいく予定だ。