国産「ニセ情報」分析プラットフォームの開発がスタート ディープフェイクをどう見分ける？：技術トレンド

ディープフェイクを含む「ニセ情報」の対策に特化したプラットフォーム構築を目的に、国内の大学や企業9者がタッグを組む。どんな技術で判定するのだろうか。

[後藤大地，有限会社オングス]

　富士通は2024年10月16日、偽情報対策に特化したプラットフォームの研究開発を国内の大学や企業9者と共同で開始したと発表した。情報の検知から根拠収集、分析、評価までを一貫して行い、ディープフェイクを含む偽情報を効率的に対処するためのプラットフォームの開発を目的としたもので、国立研究開発法人新エネルギー・産業技術総合開発機構（NEDO）に採択されたプロジェクトの一つだ。

　参加するのは国立情報学研究所（NII）、NEC、慶應義塾大学、東京科学大学、東京大学、会津大学、名古屋工業大学、大阪大学など。富士通はプライム事業者としてプロジェクトを主導し、2025年度末までにシステムの完成を目指す。

富士通と産学組織が9者で共創し、世界初の偽情報対策プラットフォームの構築を開始 : 富士通（出典：富士通のWebサイト）

ニセ情報判定に使われる技術は？　9者の役割とディープフェイクの見分け方

　富士通は2024年10月16日、偽情報対策に特化した世界初のプラットフォーム構築に向けて国内の大学や企業など9者と共同で研究開発を開始すると発表した。国立研究開発法人新エネルギー・産業技術総合開発機構（NEDO）が公募した「偽情報分析に係る技術の開発」に採択された富士通が国内有数の大学や企業と連携し、情報の検知から根拠収集、分析、評価までを統合的に行う偽情報対策プラットフォームを2025年度末までに構築し、2024年10月より共同研究開発を開始する。

　このプロジェクトは富士通の他、国立情報学研究所（NII）、NEC、慶應義塾大学、東京科学大学、東京大学、会津大学、名古屋工業大学、大阪大学が参加しており、産学連携で行われる。偽情報がインターネット上で拡散される問題を解決するため、ディープフェイクなどの偽情報検知技術だけでなく、情報の真偽を総合的に分析し、社会的な影響度を評価する技術の開発が進められる。

　富士通は本事業におけるプライム事業者として4つの技術の研究開発を推進および主導するとともに、これら技術の統合と体系化ならびに偽情報対策プラットフォーム全体の構築を担当する。

　各者の技術面の役割は次の通りだ。

• メディアデータごとの情報分析と偽情報検知（担当: NII、NEC）
  • NII：ディープフェイクを使った偽情報の検知技術に加え、改ざん箇所や生成手法の推定を行い根拠情報として出力する技術を開発する
  • NEC：画像、映像、音声を含む内容についてテキストとして抽出するメディア理解技術を開発
• 根拠、エンドースメント管理（担当: 慶應義塾大学SFC研究所、富士通、大阪大学大学院情報科学研究科）
  • 慶應義塾大学SFC研究所および富士通：インターネット上から収集した様々な根拠情報の関係性を「エンドースメントグラフ」として統合し、構造化した上で蓄積、総合的な真偽判定支援や影響度評価において活用可能にする技術を開発
  • 大阪大学：IoTセンサーデータの収集技術を開発し、根拠情報を補完するため、対象エリアのデータが不足する場合に周辺情報を活用して推定する技術を開発
• 総合真偽判定支援（担当: 富士通、名古屋工業大学）
  • 富士通：エンドースメントグラフを活用し、根拠の整合性や矛盾を分析して真偽判定を支援。さらにスーパーコンピューター「富岳」を活用して日本語に特化した大規模言語モデル（LLM）を開発する
  • 名古屋工業大学：ユーザーの心理的要因（誤情報持続効果など）を考慮した認知科学に基づくUIおよび情報提供技術を開発し、ユーザーが正確に情報を判断できるようにする技術を提供する
• 偽情報影響度評価（担当：東京科学大学、東京大学、会津大学）
  • 東京科学大学、東京大学、会津大学: SNSデータから情報源や内容、社会的文脈を分析して偽情報評価用AIモデルを構築し、過去の偽情報との類似性や拡散速度などを分析して拡散規模や社会的影響を評価する技術を開発する

　このプロジェクトを通じて9者は偽情報対策に向けた技術の研究開発を行い、富士通がこれら技術を統合しシステム化することで安定した経済活動を守るための社会基盤を構築する。2024年度中に民間企業や公的機関向けのユースケース分析と機能要件の抽出が行われ、2025年度末までに9者の技術を統合した偽情報対策システムの完成を目指すとしている。