「写真付きフェイクニュース」大量発生時代の幕開けか　静岡水害の“偽画像”問題を考える

　「ドローンで撮影した静岡県の水害の画像」と称して画像生成AIで作った偽の水害画像が9月26日にTwitterで拡散し、物議をかもした。

　画像は、建物や木々が泥水につかった様子を描いており、ぱっと見ただけでは、本物の水害写真に見える。しかしよく見ると不自然なところがあり、合成写真のようにも見える。

　画像の投稿者はその後、この写真は画像生成AI「Stable Diffusion」で作った偽の水害画像だと打ち明け、謝罪しつつも、本物と勘違いした人を「ばーか！」「ざまあｗｗｗ」などと挑発し、議論を呼んだ。

　今回の画像はまだ「偽物だと分かりやすかった例」だろう。明らかに一般ユーザーのアカウントから投稿されていたこと、画像をよく見ると不自然な点が多いことなどがその理由だ。

　投稿者本人もすぐに“ネタバレ”しており、「これが安易に広がると想定していなかった」などと釈明している。デマを拡散しようという強い悪意を持っていたというより、面白半分だったのかもしれない。

悪意とともに広がるフェイクニュース

　強い悪意を持ってデマを拡散するケースもある。例えば、同様の画像を、ニュースの公式サイトに似せた偽アカウントが発信していれば、拡散規模はさらに大きかったかもしれない。画像の不自然な点を手作業で修正したり、ネタバレしなければ、もっと拡散し、デマを信じていた人が増えていた可能性もある。

　最近の例では、ニュースサイトに似た体裁の個人ブログに掲載された『トヨタ社長豊田章男氏、ワクチン打たず「DSが人口削減のために用意した遅効性の毒」株価は3%下落』というフェイクニュースが、Yahoo!ニュースに似せた偽アカウントから拡散され、Twitterのトレンド入るほど話題になったこともあった。

画像AIの精度向上が「フェイクを見抜く」をより難しく

　これまでのフェイクニュースは、テキストが中心だったり、画像があっても既存の画像を転用していることが多く、第三者から「証拠がない」と判断されたり、「画像は無関係なものだ」と指摘され、収束するケースもあった。

　しかし、イメージした画像を誰もが手軽かつリアルに生成できる「Stable Diffusion」などの画像AIが登場した今、事情は変わってきている。画像生成AIを使えば「もっともらしいオリジナル画像」をゼロから作ることができるからだ。

　今回の静岡水害の “デマ画像”も、Stable Diffusionで「flood damage, Shizuoka」のキーワードで出てきた画像だと投稿者は述べている。わずか3ワードを入力するだけで、このような写真を生成できる時代なのだ。

　それらしい写真を探してこなくても、また、写真合成などの技術がなくても、 適切な“呪文”を唱えることで、簡単にオリジナルの“それらしい写真”を作ってしまえるということだ。

　今後、“リアルなフェイクニュース”作りはより簡単になり、それが偽物だと見抜くことはより難しくなっていきそうだ。

この記事の著者

関連記事

• 

  フェイクニュースに「注意している」8割も半数近くは「見分ける自信ない」　KSI調査

• 

  静岡県の水害巡りフェイク画像が拡散　画像生成AIを利用　投稿者はデマと認めるも「ざまあw」と開き直り

• 

  AIが生成した“偽音声”を見抜く技術　99％以上の精度で検出

• 

  「AI安倍晋三」ネットで物議　合成音声のYouTube動画、“東京大学AI研究会”が公開

• 

  “ガーシー現象”に“トヨタ社長フェイクニュース”、ネット社会の非対称性について考える

• 

  画像生成AI「Stable Diffusion」がオープンソース化　商用利用もOK