動画の世紀

アポロ計画は失敗していた？　脅威を増すディープフェイク・ビデオ（2/2 ページ）

公開 2019年11月29日 19時28分

更新 2024年04月02日 11時54分

著者

小林啓倫

[ITmedia]

印刷する連載新着通知を受け取る Googleで優先するソースとして追加

企業への実害を生み始めたディープフェイク

　とはいえ、いまのところディープフェイクが「ネットでホットな話題」程度で収まっているのは、その用途がアダルト向けにとどまっているためという背景があります。先ほどのDeeptraceの調査によれば、ディープフェイク・ビデオ全体の中で、ポルノ系は実に96％を占めているとのこと。もちろんその対象となった人物にとっては精神的な苦痛をもたらすものですし、リベンジポルノのような攻撃として使われる恐れもあります。しかし一般人であれば、それほど大騒ぎするほどのものではないというわけです。

　ところがそんな油断をしていられる時期も、そろそろ終わりつつあるようです。フェイク画像や音声、映像が詐欺行為に悪用される例が登場しているのです。

　例えば今年5月、@msmaisymade（Maisy Kinsley）というTwitterアカウントが注目を集めました。現在このアカウントは凍結されているのですが、「彼女」が残したTwitter上のプロフィール写真や、その他の関連アカウントの画像を、Google画像検索で確認することができます。

Maisy Kinsleyのネット上の痕跡

　ご想像の通り、Maisy Kinsleyなどという人物は実在せず、プロフィール画像はAI技術で作られた「いそうだけれど本当はいない」女性の顔写真だと考えられています。このアカウントを設置した人物は、Maisyに「Bloombergで働くシニアジャーナリスト」という人格を設定し、Teslaの株を空売りしている人々にTwitterを通じて接触していたのでした。そして彼らの個人情報を引き出そうとし、実際に何人かの人物が彼女が本物のジャーナリストだと信じ、情報を渡してしまったと報じられています。この一件はすぐに話題となりアカウントは凍結されたのですが、Teslaの株価に影響を与えることが目的だったのではないかと予想されています。

　さらに直接的な被害も生まれています。フランスの保険会社Euler Hermesによれば、彼らの顧客である英国の某エネルギー会社が、音声合成技術を駆使した詐欺行為の被害にあってしまったというものです。

　その手口とは、次のようなものでした。まず詐欺師は、ドイツにある同社の親会社のメールアドレスを偽装。そのアドレスから、ハンガリーにある取引先に送金を行うようメールを送信しました。その上で、親会社のCEOそっくりの声を合成し、その声でエネルギー会社のCEOに電話をかけ、重ねて送金を命じたそうです。彼のドイツ人風のアクセントや喋り方を完璧にまねした声によって、エネルギー会社のCEOはすっかりだまされてしまい、言われるままでハンガリーの会社に送金を行ってしまいました。その額は実に20万ユーロ（約2400万円）。このお金は、その後さらにさまざまな会社を転送され、行方がつかめなくなってしまっています。

　大胆なことに、詐欺師はこの送金の後、2回目の送金をエネルギー会社に要求してきたのだとか。しかしその際には、エネルギー会社のCEOの側から親会社に電話をかけ、詐欺であることが発覚したそうです。

　ただこの事例、実際に使われた音声が公開されているわけではなく、あくまでEuler Hermesが「合成された音声が使われた」と主張しているにすぎません。物まねがすごくうまい詐欺師だった、という可能性も残されています。とはいえ、高度な音声合成や映像加工によって、この種の「サイバー振り込め詐欺」が高度化する恐れは否定できないでしょう。実際にセキュリティ会社のSymantecは、同様の音声合成による詐欺事件が、他にも発生している可能性があると警告しています。

　また個々の事例だけでなく、それを取り巻く環境という点でも、気になる動きが生まれています。それはディープフェイク・ビデオの作成を請け負う「マーケットプレイス」の登場。つまり高度な映像加工（場合によっては音声加工も）スキルを持つ人物が、オンラインで注文を受け、依頼主が望む映像を作り上げるわけです。再びDeeptraceの調査によれば、そうしたマーケットプレイスが複数登場しており、顔を入れ替えるような映像の場合はわずか30ドル程度で作成されているそうです。ディープフェイク・ビデオによって経済的な利益を（企業をだましたり脅したりすることで）得られるのであれば、30ドル程度の手間賃は安いものでしょうし、また企業向けの大掛かりな、すなわち高度な音声や映像が必要とされる詐欺を働く依頼主向けに、より高額で作業を請け負う技術者が登場することも予想されます。

　ディープフェイク・ビデオが陰謀論の補強に使われていたころは、まだまだ牧歌的だった――残念ながら、そんな嘆きが社会に広がる未来も考えられます。サイバーセキュリティ対策の一環として、企業がディープフェイク・ビデオ対策に乗り出す日も近いかもしれません。

著者プロフィール：小林啓倫（こばやしあきひと）

経営コンサルタント。1973年東京都生まれ、獨協大学外国語学部卒、筑波大学大学院地域研究研究科修士課程修了。システムエンジニアとしてキャリアを積んだ後、米Babson CollegeにてMBAを取得。その後外資系コンサルティングファーム、国内ベンチャー企業などで活動。著書に『FinTechが変える! 金融×テクノロジーが生み出す新たなビジネス』（朝日新聞出版）、『IoTビジネスモデル革命』（朝日新聞出版）、訳書に『テトリス・エフェクト世界を惑わせたゲーム』（ダン・アッカーマン著、白揚社）、『シンギュラリティ大学が教える飛躍する方法』（サリム・イスマイル著、日経BP社）『YouTubeの時代』（ケヴィン・アロッカ著、NTT出版）など多数。

この連載新着通知をメールで受け取る