迫るエイプリルフール、AI画像があふれる予感……？ ネットの“フェイク”との向き合い方は

[松浦立樹，ITmedia]

　3月も残り2日……そろそろエイプリルフールが迫りつつある。昨今のエイプリルフールでは個人だけでなく、さまざまな企業がユニークな企画を打ち出している。一方、2022年から急成長を遂げて話題になっている生成AIによる“フェイク”がまん延するのではないかと懸念する声も出ている。

　実際、AIが生成したフェイク画像によるトラブルも過去には発生している。台風15号による静岡県の水害被害が起きた22年9月、あるTwitterユーザーが「ドローンで撮影された静岡県の水害」と称した画像を投稿。しかし、これは画像生成AI「Stable Diffusion」で作ったフェイク画像だったことから物議を醸した。

物議を醸した投稿

（関連記事：静岡県の水害巡りフェイク画像が拡散　画像生成AIを利用　投稿者はデマと認めるも「ざまあw」と開き直り）

生成AIの台頭から約半年　すでにAI画像を見破ることは困難に？

　この投稿があったのは、Stable Diffusionが登場して約1カ月の時期。フェイク画像を見たユーザーからは「濁流の流れや一部の建物に不自然な部分がある」と指摘があり、フェイクと看破できた。人物などを生成した際に指先が不自然に描写されるなど、AI産の画像かどうかを判断できる要素があった。

手が不自然なAI生成画像の例

（関連記事：「とんでもなくハイクオリティー」　話題の画像AI「Novel AI」でひたすら二次元美少女と美少年を生成してみた）

　そこから数カ月がたった現在、画像生成AIに対する理解や研究も大きく進み、AIが作った画像かどうかを一目で見分けるのは日に日に難しくなりつつある。生成の精度は向上しており、たとえ指先が不自然になりやすいとしても写らないような構図にすればいい。

　人間が見抜けないのならば、AIが見抜けばいい。もちろん、AI画像を検出するAIの研究も進んでおり、イラスト発注サービス「Skeb」ではAIが生成した作品を検出するAIを導入したと3月に発表している。しかし、SNSを見ている多くの人々が常にそのようなAIを通して画像を見ているわけではない。

（関連記事：Skeb、AI画像検出AIを導入　取り締まり強化へ　「AIはクリエイターを置換する技術ではない）

AI画像にだまされないためには？　全て信用せず、一度冷静に

　人間による判断が難しくなるばかりのAI画像。その様相はフィッシングサイトを取り巻く状況と似つつある。

　フィッシングサイトをURLなどから見抜こうとすることは全く不可能ではないが……例えば、大文字の「I」（アイ）と小文字の「l」（エル）など、紛らわしい文字がURLに使われていた場合にそれを見抜くのは難しい。

　近年では「見抜けると思わない」という心掛けが重要になっている。完全に見分けられないなら、はじめからメールで届いたURLにはアクセスせず、公式Webサイトやアプリからアクセスしたほうがいい。

　AI画像もこれと同じで、怪しいと思う画像や投稿は完全に信用せず、一度冷静になって本当に正しいのか考えてみるといいだろう。

　しかし、AI生成画像ではないからといってフェイクではないとは限らない。これまでのフェイクと同じく、全く関係ない画像を引用してきている可能性も十分ある。AIは手段でしかなく、ネットのフェイクとの向き合い方は以前とは変わっていない。

　誰でも使えるような生成AIが広く普及して初めてのエイプリルフール。AIがどのようなうそを生成してくるのか想像するのは難しい。情報リテラシーの高さが特に求められる年になるだろう。

　一方で、AIクリエイターにとっては、いかに他人に迷惑を掛けずにユニークなうそを発信していくのかが腕の見せ所ともいえるかもしれない。