日本は“無防備”か 選挙で「ディープフェイク」はこう使われる：AI×社会の交差点（1/6 ページ）

[城田真琴，ITmedia]

AI×社会の交差点

AIの発達が急速に進んでいる。AIの進化・普及によって社会にどのような変化が起きるのか。野村総合研究所でIT技術のリサーチを行うチームが萌芽事例やニュースなどを取り上げ、新たな課題と可能性について多角的に解説する。

　2024年は、米国大統領選挙をはじめ、世界中で重要な選挙が相次ぐ「選挙イヤー」となっている。そこで注目されているのは、生成AI技術の進展による選挙戦術の変化だ。

「もし史上最弱の大統領が再選したら」と投げかける、AI生成動画（出所：YouTube「Beat Biden」から引用）

　その中でも、ディープフェイク技術は従来の選挙キャンペーンの枠を超え、新たな情報戦略の中心に位置付けられている。一方、ディープフェイクは偽情報や誤情報の拡散、さらには選挙妨害を目的とした悪用も懸念されている。

ディープフェイクは「民主化」している

　ディープフェイクは以前から存在したが、ここ数年の生成AI技術の進化がディープフェイクをさらに加速させている。画像生成においては、Midjourneyのような直感的なインターフェースを持つツールが普及し、専門知識がなくても数分で政治家の肖像画を作り出せる。

Midjourney公式Webサイト

　音声合成の分野では、米ElevenLabsのようなAI企業が、わずか数分の音声サンプルから個人の声を再現する技術を実用化している。動画生成に関しても、英国のSynthesia、イスラエルのD-ID、HourOneといった企業が、テキストから自然な動画を生成するサービスを提供している。

　これらのツールの多くは、無料もしくは低コストで利用可能なことから、結果として、ディープフェイク作成のハードルは大きく下がり、誰もが容易に政治家の偽の発言を作り出せる環境が整ってしまったのである。