SNSに広がる誤情報をAIで検知する技術 総務省事業でSakana AIが開発

Sakana AIは、SNSの誤情報や偽情報に対抗する新技術を発表した。情報の可視化、真偽判定、拡散抑制シミュレーションの3種を軸とする。総務省が公募した事業の成果として公表された。

[村田知己，ITmedia]

　AIスタートアップ企業のSakana AIは4月7日、SNSの誤情報、偽情報が安全保障上の課題になっていると指摘し、それらに対策するための技術3点を発表した。SNSの膨大な情報を整理して可視化する技術、それらの真偽を判定する技術、対策案をシミュレーションする技術だ。それぞれの詳細は以下の通り。

• SNS空間の可視化技術：　SNSにおける膨大な情報の全体像を把握するために、社会に影響を与える「ナラティブ」（論調）を抽出し、階層構造で整理して可視化する技術

ナラティブごとの階層構造でSNSの情報を整理、可視化したイメージ（出典：公式ブログ）

• 誤情報、偽情報の真偽を判定する技術：　「AIが生成した画像や動画の検知」「本物の画像や動画にうそのキャプションを付けた投稿の検知」「人間の専門家を模倣した方法による投稿文のファクトチェック」「投稿者のプロフィールや過去の投稿、投稿への反応などの背景情報の分析」という4つの手法でSNSの投稿内容を検証する技術

4つの手法のイメージ図（出典：公式ブログ）

• SNS空間のシミュレーション技術：　特定の論調を持つ多様な仮想SNSアカウントを生成してSNS空間をシミュレーションし、誤情報、偽情報の拡散を抑制させるための投稿（カウンター発信）の有効性を検証する技術

カウンター投稿の有効性をシミュレーションするイメージ図（出典：公式ブログ）

　今回の技術は、総務省が2025年4〜5月に公募した「インターネット上の偽・誤情報等への対策技術の開発・実証事業」の成果として同社が開発したもの。同事業ではSakana AIの他にも、NTTドコモビジネス（事業採択時の名称はNTTコミュニケーションズ）や日本電気などが採択されており、その成果を報告している。