ITmedia NEWS > AI+ >
ニュース
» 2020年02月28日 07時01分 公開

映像の加工はどこまで許される? 「グレーゾーン」ディープフェイクの登場動画の世紀(1/2 ページ)

ディープフェイクはどこまで許されるのか、という問題について、小林啓倫さんが考えます。

[小林啓倫,ITmedia]

 この連載でも以前取り上げた「ディープフェイク」。AI技術の一種である「ディープラーニング」と「フェイク」を組み合わせた言葉で、ディープラーニングを使って真実ではないコンテンツ(映像や音声など)を制作する行為を指します。ただ最近は、ディープラーニングが使われているかどうかよりも、単に「本当かどうか見分けがつかないほど精巧に加工されたコンテンツ」という意味で使われることが多くなっているようです。

規制が始まったディープフェイク

 このディープフェイク、あえて「フェイク」という言葉が使われていることからも分かるように、あまり好ましくない行為というニュアンスが含まれています。前回の記事でも紹介したように、サイバーセキュリティ会社のDeeptraceによれば、ディープフェイク・ビデオの実に96%がアダルトコンテンツだそうです。またそのほぼ全てが、女性の出演者を加工したもの。つまりアダルトコンテンツに登場する女性の顔を、セレブや芸能人、極端な場合は一般人にすげ替えるという行為が横行しているわけです。

 そして残る4%のディープフェイクも、政治的な意図をもって作成されたものが多かったと報告されています(ちなみに非アダルト系ディープフェイクで加工される人物の61%は男性だそうです)。例えば敵対する勢力の政治指導者の「スキャンダル映像」を捏造して、その人物の評判を落とすというわけですね。さらには実在のCEOそっくりの音声をディープフェイクでつくり出して、その部下に送金を命じるという詐欺まで起きていて、そうなると「好ましくない行為」どころか犯罪行為ということになります。

 そんな背景があることから、ディープフェイクを規制しようという動きも起きていて、例えば米カリフォルニア州では昨年、ディープフェイク規制に関連する2つの法案が可決されました。その1つは、選挙が行われる場合、その前の一定期間(60日間)に政治家を対象としたディープフェイク・コンテンツの制作・配布を違法とするというもの。そしてもう1つは、同意なしに自分の画像がアダルト系のディープフェイク・コンテンツで使用された場合、被害者が訴訟を起こせるというもの。どちらもニューサム知事によって署名が行われ、規制として施行されることになりました。

 また中国もディープフェイク対策に乗り出していて、今年1月から施行された規制では、映像や音声に関するサービスのプロバイダーおよびユーザーに対し、ディープラーニングを含む新技術を使ってフェイクニュースを制作・配布することを禁じています。カリフォルニア州の法律と異なるのは、コンテンツが政治系に限定されていないこと(あらゆるフェイクニュースが対象)、またVRなど他の先端技術も対象になっていることです。

 そのため取り締まりの対象となるコンテンツや人物が広範囲になると予想され、新たな人権侵害を招くことが懸念されています。カリフォルニア州の規制に対してすら、米国自由人権協会(ACLU)と電子フロンティア財団から、対象が広過ぎて政治的な言論の自由が失われるとして反対の姿勢が表明されています。とはいえ前述の通り、ディープフェイクが実害をもたらすリスクが高まっている以上、何らかの規制をかけることは避けられません。

インドの選挙で利用されたディープフェイク

 カリフォルニア州の規制のように、本人の同意なしに映像を加工することを禁じるというのは、比較的取り締まりやすいでしょう。被害者は誰なのか、どのような害を被ったのかがある程度明確になるからです。しかしそれほど単純ではないディープフェイク利用、しかも政治分野での活用事例が、インドで実際に登場しています。

 今年2月、インドの政権与党であるインド人民党(BJP)でデリー準州の支部長を務めるマノジ・ティワリ氏が、2本の動画をネットで公開しました。デリー準州での選挙を前に、対立勢力を批判する内容で、いずれもメッセージアプリのWhatsApp上で広く拡散されたそうです。

 まずは1本目、ティワリ氏が英語でスピーチしています。

 そして2本目、今度は英語ではない言語でスピーチしているのですが、実は話している内容は全く同じものです。

photo 非英語でのスピーチ

 後者の動画でティワリ氏が使っていたのはヒンディー語。そしてこちらの動画の方がオリジナルで、これをディープフェイク技術で加工することで、ティワリ氏が流ちょうな英語でスピーチしているかのような前者の動画が作られたというわけです。

 そしてこのティワリ氏のスピーチ映像には、もう一つ別のバージョンが存在します。

 こちらで使われている言語は、ヒンディー語の方言の一つであるハリヤーナー語。ハリヤーナー語はインド北部のハリヤーナー州で使われている言葉で、ティワリ氏は話すことができないと伝えられています。ではなぜハリヤーナー語版も作ったのか。その理由はこの言葉がデリーの出稼ぎ労働者の一部で使われているため。彼らの票を取り込むために、彼らの母語を使ってメッセージを伝わりやすくしたわけですね。

 しかしメッセージを伝えたいだけなら、オリジナルの映像に字幕を付ければ済む話です、それをあえて、本人が話しているかのように加工したのは、ターゲットとする出稼ぎ労働者に親近感を与えたかったのでしょう。それならば本人が頑張って勉強して、ハリヤーナー語を覚えれば済む話ではあるのですが、インドでは憲法で「公的に認定されている言語」だけで22言語が存在し、一説には800を超える言葉があるといわれています。そんな環境で、任意の言語を話しているかのように簡単に加工してくれる技術は、インドの政治家にとって大きな武器となるはずです。

 米国の大統領選挙でも、ヒスパニック系住民が多い地域では、候補者が流ちょうなスペイン語のスピーチを“あえて”披露するという場面が見られます。日本でも「地元に帰った議員先生たちが、お国言葉で支援者と交流」などというニュースを見ることができます。それだけ「自分と同じ言葉を話している」ことがポジティブなイメージを作り出すということでしょう。

 しかしこのような映像加工はどこまで、特に政治の世界において、許されるのでしょうか? 事実と異なるという点では、ティワリ氏が使えもしない言葉でスピーチするという内容は、間違いなく“フェイク動画”です。しかし誰かの評判をおとしめるような内容ではなく、翻訳されているとはいえ、メッセージの内容自体もオリジナルから変更されていません。それでも政治状況や世論に影響を与える可能性のある技術、もしくは使い方であれば、それを規制すべきでしょうか?

       1|2 次のページへ

Copyright © ITmedia, Inc. All Rights Reserved.