生成AIで作られた“偽音声”を検知　NTT東がベンチャーと開発・実証　自治体向けデマ対策システムも

　NTT東日本は8月25日、東京大学発のベンチャーNABLAS（東京都文京区）と共同で、生成AIで合成された偽の電話音声を検知する技術を開発すると発表した。生成AIを用いたフェイク音声によるなりすまし電話に対応するという。

　開発した検知技術の検証も共同で行う予定。生成AIで合成された音声を電話サービス上で流し、同技術による検知が可能を確認。品質が変化する電話環境でも、安定した精度を維持できるよう、音声形式や発着パターンなどさまざまな条件下で試す。

　両社は、自治体向けの偽・誤情報の検知システムも共同で開発・検証する。コンテンツの投稿者が誰か確認可能な「DID／VC技術」や、偽画像・偽映像を検出する仕組み、電子透かしを使った改ざん検知、AIによる自律的なファクトチェックを組み合わせたシステムを構築。長野県伊那市でその有効性を検証する。

　このうちフェイク音声検知システムは共同で開発。DID／VC技術はNTT東が、偽画像・映像の検知システムやAIによるファクトチェックの仕組みはNABLASがそれぞれ手掛ける。

　両社は「生成AIを利用した巧妙な詐欺や偽情報の流布は、今後さらに増加すると予想される」とした上で、「実証で得た成果を自治体の広報や防災、危機管理業務に実装し、フェイク情報が拡散されにくい社会の実現を目指す」としている。

関連記事

• 

  “AIによるフェイクニュース”を検知・分析する技術、富士通が開発へ

• 

  ディープフェイクはどう作られる？　技術資料を無償公開　東大発ベンチャー

• 

  富士通、AIをあざむく「偽装攻撃」の検知技術を開発　21年度の実用化目指す

• 

  新ログイン認証「kCAPTCHA」KDDIが開発　AIで画像生成「人間に解きやすく、攻撃検知精度も高い」

• 

  サイバーエージェント、ゲームとアニメのAI研究機関を新設　各制作フローで生成AIの活用法探求