ITmedia NEWS > AI+ >
ニュース
» 2019年11月29日 19時23分 公開

動画の世紀:アポロ計画は失敗していた? 脅威を増すディープフェイク・ビデオ (1/2)

ディープ・フェイクは次の段階に入ったようで、企業が被害を受けるケースも出ている。

[小林啓倫,ITmedia]

 AI技術を活用して映像を加工し、普通の馬をシマウマに変える、政治家に言ってもないせりふを言わせる、さらには有名女優のアダルトビデオを作成する――もちろん全て「うそ」(フェイク)なわけですが、いまやありとあらゆる映像加工が可能な時代になりました。2004年に放送されたSFアニメ「攻殻機動隊S.A.C. 2nd GIG」の中で、AIのタチコマが「映像に証拠能力はもうない、一般大衆を楽しませるだけ」という印象的なせりふをつぶやくのですが、それから15年たったいま、この言葉は現実のものになったといえるかもしれません。

 最近ではこうしたAIによる高度なフェイク映像は「ディープフェイク」あるいは「ディープフェイク・ビデオ」などと呼ばれ、その危険性が叫ばれるようになっています。つい最近も、こんな映像が注目を集めていました。

 米国のリチャード・ニクソン元大統領が原稿を読み上げる短いクリップ。画質は粗く、彼が現役の大統領だったころの映像のようです。ホワイトハウスの執務室と思しき場所から、彼が有人月面探査ミッションの失敗を告げ、米国民に追悼を呼び掛ける――という内容ですが、もちろん彼はアポロ11号が月面着陸に成功した時の大統領で、実際にはこのようなスピーチは行っていません(とはいえ失敗時用の演説原稿も用意され、保管されていたことが明らかになっているのですが)。

 これはMITのCenter for Advanced Virtualityによるアートプロジェクト「In Event of Moon Disaster」(これはニクソンの失敗時用原稿に付けられていたのと同じタイトルとなっています)の一環として作成されたもので、人々をだましたり怖がらせたりする意図はなく、このプロジェクト自体がディープフェイクの危険性を呼び掛けることを目的としています。またMITの広報サイトによれば、同作品は2019年11月のアムステルダム国際ドキュメンタリー映画祭に出展され、その会場において1960年代の米国のリビングルームを再現し、一種のインスタレーションとしてフェイクニュースを体験できるようになっています。

photo In Event of Moon Disaster

 また会場では、いかにこの「ディープフェイク」が作成されたのか、どのようにディープフェイクを検知し、見抜くことができるのかといった情報提供も実施。なかなか気になる展示ですが、うれしいことにプロジェクトの関係者らは、2020年春をめどに、さらに内容を充実させたバージョンをWebで公開することを計画しているそうです。

 このように「In Event of Moon Disaster」は、あくまでディープフェイクの危機を認知させることを目的としているのですが、一方で月面有人着陸を目指したアポロ計画といえば、いわゆる「陰謀論」のターゲットの代表とも呼べるようなテーマです(ご興味のある方は、Wikipediaの「アポロ計画陰謀論」という記事をご覧ください)。本連載の第3回でも触れたように、YouTubeでは「アポロ11号の月面着陸はうそだった」と主張する映像の投稿があまりに多いため、それに対抗する機能の開発を進めているほど。それだけにこの映像は、逆に陰謀論者によって意図的に悪用されたり、あるいは本気で信じこむ人が出てきたりするのではないかという懸念の声も上がっています。

 またいくら教育的な活動を始めても、それを上回る勢いでディープフェイクが広まってしまえば、詐欺の手口を啓蒙する場合と同じように、被害を予防することは難しくなってしまうでしょう。実際にサイバーセキュリティ会社のDeeptraceによれば、過去1年間で、インターネットで流通しているディープフェイク・ビデオの数は約2倍に増えた(7964本から1万4678本へ)そうです。AIによる映像加工技術は日々高度に、そして誰でも使えるものになりつつあり、この数はさらに急増すると予想されています。

       1|2 次のページへ

Copyright © ITmedia, Inc. All Rights Reserved.