「岸田首相フェイク動画」にみる、生成AIとフェイクニュースの関係　加速する誤情報にどう対処すべきか（2/3 ページ）

公開 2023年11月14日 16時45分

更新 2023年11月14日 04時11分

著者

小寺信良

[ITmedia]

印刷する連載新着通知を受け取る

生成されたのは音声のみ

　まず今回報道されているフェイク動画には、日本テレビ女性アナウンサーの動画と、岸田首相の動画の2つがある。これらは製作者も違っており、混同しないよう話を切り分けたい。

　まずアナウンサー動画のほうは、報道では「本物と比べても、アナウンサーの動きもそっくりです」と報じられているが、そりゃそうだろう。この動画はほぼ同じものだ。

　オリジナル映像からもともとテロップが入っていた部分を追い出す格好で画像を拡大し、3枚のパネル部を別のものにはめ替えただけである。よってこの動画は生成AIで作られたのではなく、編集技術で作られた物である。パネルと被っている手や体の輪郭がかなりうまく抜けており、そのあたりに高い技術を感じさせる。

　生成AIが使われているのは、音声部分である。おそらくアナウンサーの声を学習させて、別の人物がしゃべったものをアナウンサーの声に変換しているものと思われる。音声と映像は口の動きが合致しておらず、注意して見れば違和感があるだろう。

　話がややこしいのは、こちらの動画にも一部岸田首相の映像（後述する岸田首相フェイク動画とは別物）が使われている事である。国会で問題視されたのは、こちらの映像だ。首相の肖像が詐欺、あるいは架空の物と思われる投資を促すフェイク動画に使われたことが問題視された。こちらは製作者は明らかになっていないようだ。

　もう1つの動画は、岸田首相が固定画面で口だけ動いているものだ。やはり音声を岸田首相のものに変換し、それに合わせて動く口を静止画像にはめ込んだものとなっている。製作者も判明しており、大阪府在住の25歳の男性で確定している。同氏は動画を削除し、X（旧Twitter）上で以下のように弁明している。

　「日本テレビさま　岸田総理のAIフェィク動画は全て削除させて頂きましたのでどうか訴訟等は停止してください。　私には日本テレビの業務を妨害する意図はありませんし攻撃をする意図もございません。　全て削除し平に謝罪させていただきます　申し訳ございませんでした」

　また朝日新聞の取材に対しては、「明らかに不自然に口をパクパクさせているので、そこで冗談だと示し、バランスをとったつもりだった」「岸田総理個人を侮辱したり攻撃したりする意図はなく、有名人のためアイコンとして岸田総理の画像を使った。風刺やSFのような文脈で、日常の揺らぎを表現したつもりだった」と説明している。

技術的課題と法的課題

　生成AIといえば、現段階で多くの人が面白がっているのは静止画を生成するものだ。音声加工のほうは使いどころが限られるので、筆者の個人的な体感では、静止画と比べればそれほど多く利用されているようには思えない。

　そもそも音声は、多くのしゃべりのデータがあれば、編集して切り貼りすることで、ある程度のことなら自由に言わせることができる。本連載でも、その技術を実演してみたことがある。

　もちろん粗っぽくやれば、編集して作り上げたことが分かる。例えば編集点で声のピッチが合わないとか、映像がジャンプするといった破綻が見えるからだ。だがピッチの違いは音声エフェクトで調整できるし、編集点はモーフィング（編集注：ある画像から別の画像にスムーズに変形させる補間技術）して間をつないでしまえば分からなくなってしまう。

　くしくも筆者が発行しているメールマガジン内、11月9日公開のジェットダイスケ氏との対談の中で、編集した結果をAIが文字起こしし、それをAIにしゃべらせたものであれば、もはや編集したことが分からなくなるだろうという話を掲載したところである。つまり音声変換AIは、編集技術と組み合わせることで、パッと見はAIが使われた痕跡に気付かなくなってしまう可能性がある。

　今回の動画2例は、映像のほうにそこまで手が入っておらず、AIの痕跡が伺えるわけだが、映像のほうをもう少し丁寧に使ったら、もはや冗談や風刺という文脈では語れないものになってしまうだろう。冗談や風刺、パロディーといったものは、「オリジナルとの対比構造」が明確であることが笑いにつながるわけだが、「オリジナルと変わらないもの」を作ってしまったら、それは盗用と言うべきものかもしれないし、名誉毀損や人権侵害にも問われる可能性がある。

　今回の動画2例が日本テレビを激怒させた要因は、2つある。まず1点は、ニュース番組内で使用される正式ロゴをそのまま使っている事である。公式ロゴとはホンモノを表わすエンブレムであり、ニセモノにヒネリもなくそのまま貼り付けたら、それはパロディーではなく人をだます意図があったと取られて当然だ。番組の信ぴょう性を著しく低下させたとして怒り心頭なのは理解できる。これに対してどのような法的制裁が考えられるかは、弁護士の腕の見せ所である。

　もう1点は、映像ソースとしてテレビ番組の映像をそのままキャプチャーして利用したところである。ご承知のようにテレビ放送の録画は、著作権法により私的利用に限られており、コンピュータ等で自由に利用・加工・再公開できるようなものではない。昨今はテレビ局自身が積極的にネットを使った再送信を行っているが、それをキャプチャーしたということは、技術的保護手段の回避が行われたということで、著作権侵害となる。こちらの違法行為は確実なので、こちらから検討される事になるだろう。

次ページへ「表現の自由」の問題になりうるか