ITmedia AI＋
生成AI
富士通、世界初の“偽情報検知システム”構築へ　NEC・NIIなど9者が協力　2025年度末の提供目指す

富士通、世界初の“偽情報検知システム”構築へ　NEC・NIIなど9者が協力　2025年度末の提供目指す

公開 2024年10月16日 15時47分

[ITmedia]

印刷する

　富士通は10月16日、9つの企業・研究機関と協業し、世界初の偽情報対策システムを構築すると発表した。生成AIなどによる偽情報を的確に検知する仕組みを作り、2025年度末までの提供を目指す。システム構築に向け、各組織が4つの技術をそれぞれ分担して開発していくという

左から順に、大阪大学大学院情報科学研究科荒川伸一准教授、NEC ディレクター荒木俊則さん、国立情報学研究所山岸順一教授、富士通データ＆セキュリティ研究所所長今井悟史さん、富士通データ＆セキュリティ研究所リサーチディレクター山本大さん、慶應義塾大学政策・メディア研究科鈴木茂哉特任教授、東京科学大学笹原和俊教授、東京大学豊田正史教授

　富士通が今回構築するシステムでは、（1）偽情報を検知し、生成元を分析、（2）根拠を収集・管理、（3）統合分析、（4）社会的な影響度評価──といったステップで、ディープフェイクなどによる偽情報の検知や対処を実現するとうたう。各社の分担は以下の通りだ。

偽情報検知システムの構想案

　構築したシステムは、まずは自治体などの公的機関に提供し、自然災害時の偽情報のファクトチェックでの活用を促す。その後は民間企業への提供を経て、一般ユーザーも各種ファクトチェックで使えるように展開するなど、段階的に広げていく方針だ。

　富士通データ＆セキュリティ研究所のリサーチディレクターを務める山本大さんは「（偽情報対策には）複合的に情報を集めて、それを統合することが重要。例えば自然災害に関する偽情報を判断する際、その情報の真偽だけでなく、その周辺にある情報も含めて判定するなどの対応が必要だ」と、今回開発する技術の必要性を話す。

富士通データ＆セキュリティ研究所のリサーチディレクター　山本大さん

　しかし技術開発に当たっては、それぞれに挑戦的な課題があるという。例えば、偽情報の検知技術を担当する国立情報学研究所（NII）の山岸順一教授は「現在のディープフェイク検知は基本的にはブラックボックス、つまりどういう根拠で偽情報と判断したのかという根拠を出すことが容易ではない。今回のプロジェクトでは、この課題に取り組んでいきたい」と意気込みを語る。

　また、どのような時間軸で偽情報を検知していくのかという点も重要な課題という。山本さんは「例えば自然災害なら発災直後にも偽情報はあるし、1週間後には違う種類の偽情報が出る可能性がある。このためにも偽情報の根拠収集は継続して行っていきたいし、その上で必要なユーザーがいればその都度根拠を提示する仕組みを想定している」と構想を話した。

　偽情報とそれを見抜く技術の開発は、いたちごっこになっているのが現状だ。検知技術を開発しても、それに引っ掛からない新たな作成技術が出現してしまい、きりがない。

　現状に対し、東京科学大学の笹原和俊教授は「われわれのできることは、情報の根拠をためていくことや、過去の事例と類似している点の可視化など、偽情報に関する情報をユーザーに分かりやすい形で伝えてことが重要」との考えを示した。

　今回のシステム構築を主導する富士通は、偽情報対策に特化した専用大規模言語モデル（LLM）も開発する予定。これまで開発してきたLLM「Fugaku-LLM」「Takane」の開発実績を生かし、情報の真偽判定の根拠を説明できる日本語LLMを開発していくとした。