日本は“無防備”か 選挙で「ディープフェイク」はこう使われる：AI×社会の交差点（4/6 ページ）

今年は世界中で重要な選挙が相次ぐ「選挙イヤー」である。注目されているのは、生成AI技術の進展による選挙戦術の変化だ。

[城田真琴，ITmedia]

インド：AIによる多言語演説

　2024年4月から5月にかけて総選挙が行われたインドでは、与党インド人民党（BJP）がモディ首相のヒンディー語の演説をAIを使ってタミル語やテルグ語など8つの地方言語に翻訳し、それぞれの言語で音声合成した演説をネット配信した。

　BJPはヒンディー語話者の多い北部や中部地方を主な地盤としており、弱点である南部地方の言葉で訴えることで支持基盤を広げる狙いがあったとされる。

　これに対し、野党側は、この手法が地域の文化や言語の多様性を無視していると批判。また、AIによる翻訳の正確性や、合成音声がモディ首相本人の声と誤認される可能性についても懸念を表明している。

ディープフェイク対策の現状と課題

　ディープフェイクに対する技術的な対策としては、いくつかスタートアップがディープフェイクの検出ソリューションを提供している。イタリアのミラノを拠点とするSensity AIは、ディープフェイク動画や音声の検出を得意としている。

　ディープフェイク動画の検出では、顔の動きの不自然さや瞬きの頻度、微表情の欠如、顔の境界部分や肌のテクスチャの一貫していない箇所などを分析し、ディープフェイク特有のパターンを検出している。

　また、カナダのトロントを拠点とするResemble AIは、偽音声の検出ソリューションを提供している。同社は音声のピッチ、フォルマント（声道の共鳴周波数）、テンポなどの特徴量を抽出し、自然音声と比較したり、自然音声では存在しないような高周波成分や特定の周波数成分の不自然な強調を検出する「スペクトル分析」などによって偽音声の検出を実現している。

偽音声の検出ソリューションを提供するResemble AI

　ただし、現時点ではディープフェイク生成技術が急速に進化しており、検出技術が追い付いていないのが現状である。そのため、ディープフェイクの生成を防ぐだけでなく、コンテンツの信頼性を担保する技術が今後ますます重要となるだろう。