ヒグマ抱っこカフェ「めっちゃかわいい」本物と勘違い……生成AIの偽情報が作る危険な世界

[産経新聞]

　クマによる被害が相次ぐ中、生成AIで作成されたとみられる偽動画がSNS上で拡散している。クマに餌付けをしたり、子グマを抱きかかえたり。不自然な場面があっても、スマートフォンで短い動画が次々と流れると判断しづらいとみられ、専門家は「誤解や命の危険を招きかねない」と注意を呼び掛けている。

　「TikTok」（ティックトック）で投稿されている、クマに野菜を与えている女性の動画。よく見ると野菜の形が不自然でクマの動きがぎこちない。米オープンAI社が開発した動画生成AIで作成されたことを示す「Sora」という透かしが表示されていた。

生成AIで作成したとみられるクマの動画（ティックトックから。一部画像処理しています）

生成AIで作成したとみられるクマの動画（ティックトックから。一部画像処理しています）

生成AIで作成したとみられるクマの動画（ティックトックから。一部画像処理しています）

　ただ、コメント欄には実際の映像と勘違いしている書き込みが多くみられた。他にも、犬がクマに立ち向かったり、女性がクマをほうきで追い払ったりする動画もティックトックやユーチューブで投稿され、数十万回再生されているものもあった。「ヒグマと触れ合えるカフェ」との説明とともに子グマを抱いたり、「おやつ」を与えたりする女性の動画は精巧で、視聴者から「めっちゃかわいい」などのコメントが付けられていた。

　こうした偽情報の拡散によって、危険性の誤認や誤解を招くケースが懸念される。11月上旬にティックトックに投稿された、コンビニエンスストアにクマが侵入し捕獲されたとの動画には、秋田県能代市の地名が表記されていた。同市農業振興課は「そうした事実はない」とした上で「勘違いしてしまう人もいると思う。住民の不安を招きかねないので、虚偽の動画の投稿はやめてほしい」と訴える。

　SNS問題に詳しい国際大学グローバル・コミュニケーション・センターの山口真一准教授は、「動画の拡散で地域住民に過剰な不安感や誤った対応をもたらすほか、問い合わせ増加による自治体の業務圧迫などが生じる懸念がある」と指摘。「人の目だけでは真偽の判断が難しい。AIでつくられた動画にラベル付けする取り組みを拡大するなど、SNS運営側による対策が求められる」としている。

偽情報排除、活用する取り組みも

　SNSでの偽情報が特に脅威となるのが災害時だ。過去には虚偽の救助要請により警察や消防が対応に追われるなど、問題となってきた。一方でSNSに寄せられたリアルタイムの情報を使って住民避難に役立てようとする取り組みも進む。

　10月下旬に北海道北斗市で行われた、巨大地震を想定した防災訓練。訓練用に作成されたSNSの投稿内容などから、被害や避難状況をリアルタイムで分析し、住民の避難や救出につなげた。

　訓練ではIT企業「Spectee」（スペクティ、東京）のシステムを活用。SNS投稿のうちAIが信憑性が高いと判断したものを基に、防災対策本部の職員が市民の避難や津波の到達状況を把握し、指示を出した。

　スペクティによると、生成AIや過去の災害映像の使いまわしなどによる偽情報を、AIが自動的に判別するシステムを導入。さらに情報確認に習熟したスタッフが、公的機関の情報などと整合性をチェックすることで「より早く正確性が担保された情報提供ができる」とする。すでに約1200の自治体・企業などが導入しているという。

　ただ、SNSの情報を災害対策にどう生かすかは、自治体職員の能力にもかかってくる。同社の村上建治郎代表は「ツールがあっても普段使っていないといざという時に役に立たなかったりする。訓練などを利用し、体制やマニュアルを整備していくことが重要だ」と話す。

　災害時の偽情報を巡っては、平成28年の熊本地震で「動物園からライオンが逃げ出した」との偽情報がSNSに投稿され、警察が出動する事態に。令和6年の能登半島地震でも「子供が助けを求めている」などの虚偽の救助要請があり、警察や消防が対応に追われたほか、偽の募金や義援金を募る投稿も確認された。（秋山紀浩）