生成AIで巧妙化するデマ──熊本地震で露見した「10年前にはなかった新たな手法」　識者に聞く（2/3 ページ）

　「コストコ熊本御船倉庫」の被害状況を写したという投稿では、別のユーザーがXのAI「Grok」にファクトチェックを依頼したところ、Grokは「2016年の映像」──つまり投稿は虚偽だと断定した。

　この投稿は広く拡散したが、実はGrokの回答は間違っていた。コストコ熊本の開業は2021年で、10年前には存在しない。根来COOは「生成AIは根拠の薄い誤った情報を断定口調で返すことがあります。それは生成AIが事実を検索して照合しているのではなく、文脈に最もそれらしく続く言葉を選んで文章を作っているから。起きたばかりの出来事は学習データにも乏しく、情報が足りないときこそ生成AIは答を作ってしまいます。それが『うそを見破った』という善意で拡散しました」と指摘する。結果として、本物とみられる画像が偽物扱いされてしまった。

　ただ、「1つポジティブだと思うのは、ユーザーの間に真偽不明の情報に対して“疑ってかかる”意識が広がってきた点でしょう。だからこそ、Grokを使って検証した。今回はAIの回答が間違っていたわけですが」と複雑な表情を浮かべる根来COO。明らかになったのは「生成AIは偽情報を作るだけではなく、情報を否定する側でも誤情報を増幅する」ことだったという。

QRコード決済で金銭を求める

　被災者やその家族を装い、PayPayのQRコードを掲示して個人への直接送金を呼びかけるというのも10年前にはなかったパターンだ。

　例えば、イオンモール熊本のリンガーハットに勤める母親が家屋の下敷きになって死亡したという、虚偽の投稿があった。この投稿に同情が集まると、投稿者はPayPayなどで送金を受けていたが、店舗関係者らがそのような従業員はいないと指摘したことでうそがばれた。

　その後、このアカウントは削除されたが、投稿者が送金した人に謝罪した際のやり取りとされる画像には、動機がインプレッション稼ぎや承認欲求だったこと、Google Mapの位置情報をChatGPTで書き替えたことなどが記されている。

　他にも真偽は不明ながら地震で家が倒壊して中に入れないとして、QRコードを表示して金銭的な協力を求める投稿もあった。このアカウントは約40分間に2回QRコードを掲載したが、現在はいずれも削除している。

　「10年前は、銀行口座に振り込ませるしかなかったが、今はSNS上にQRコードを載せれば、個人から個人に送金できます。お金を個人が受け取るハードルがすごく下がり、こういった事象が増えました」（根来COO）。

この記事の著者

関連記事

• 

  「熊本地震でライオン脱走」Twitterにデマ拡散の男を逮捕

• 

  X、「クリエイター収益分配プログラム」終了へ──「オリジナル投稿」に絞った新報酬制度に移行

• 

  スマートリングは日本でブレイクするか　高精度な睡眠モニターと分析の「Ultrahuman Ring AIR」を試す

• 

  ソニーの“着るエアコン”が6代目に　上位機PROの“冷え”を通勤中のサラリーマンにも

• 

  魔法瓶の会社が「日傘」や「保冷バッグ」を作ったら……“遮熱”全振り、実用的な商品ができた件