Google検索の“AI概要”がおバカすぎる？　トンデモ回答が続出、強まるフェイクへの懸念（1/3 ページ）

公開 2024年12月03日 18時00分

[ITmedia]

印刷する

　Googleで情報を検索したとき、生成AIが概要を表示する「AI Overview」。その回答内容がおかしいとする投稿が、11月末からSNSで相次いでいる。中には単なる“珍回答”にとどまるものもあるが、フェイクや健康問題につながるとの指摘も出始めている。

AI Overviewのイメージ（Google公式ブログから引用）

　Xでは11月30日ごろから、AI Overviewの奇妙な回答が投稿され始めた。特に話題になったのは、NHKの子供向け番組「いないいないばぁっ！」のキャラクター「うーたん」が卒業した時期を調べたところ「2023年7月15日に安楽死処置が行われた」との回答があったとする投稿や「東横イン　枕　どこの」と調べたところ、製造元ではなく「東横インの枕は、部屋にあります」と答えたとする回答など。

　他にも50m走の世界記録を検索したところ「ウサイン・ボルトの9.58秒が最速である」と答えたとする投稿や、妊婦向けのレシピを調べたところカフェインの摂取を勧められたとする投稿もあった。

　なお、50m走の世界記録は条件によって異なるが、陸上競技の国際連盟「ワールド・アスレティックス」によれば、室内での最速はドノバン・ベイリーさんの5.56秒。妊婦のカフェイン摂取については、英国食品基準庁が1日当たりの摂取量を200mgに制限するよう求めており、日本の厚生労働省もその旨を紹介している。

　AIによる概要のうち、東横インと50m走の記録に関する回答については、編集部でも似た回答を確認できた。「東横イン　枕　どこの」と調べたところ、「東横インの枕は、部屋内に備え付けられています」と回答があった。50m走の回答については話題になっていたものとほぼ同じ回答が確認できた。

記者が再現した回答

記者が再現した回答

　他の回答については、そもそもAI Overviewが表示されないか、他の回答が返ってきたため、再現できなかった。検索ワードが適切でなかった、すでに回答がアップデートされたなどの可能性が考えられる。

　一方で、AIが“勘違い”した理由と考えられる情報もいくつか確認できた。例えばうーたんについては、同名の牛が安楽死処置されたという情報が検索できた。50m走の世界記録についてはAIの回答とNHKによる100m走の世界記録に関するWeb記事が類似しており、関連リンクとしても提示していることを確認した。それぞれの文章は以下の通り。