Google検索の“AI概要”がおバカすぎる？ トンデモ回答が続出、強まるフェイクへの懸念（2/3 ページ）

Googleで情報を検索したとき、生成AIが概要を表示する「AI Overview」。その回答内容がおかしいとする投稿が、11月末からSNSで相次いでいる。中には単なる“珍回答”にとどまるものもあるが、フェイクや健康問題につながるとの指摘も出始めている。

[吉川大貴，ITmedia]

海外でも同様の事態は起きていた　「ピザに接着剤」騒動

　実は同様の事態は、海外で先行して発生していた。米国で試験提供が始まった5月には「チーズがピザにうまくくっつかない」という検索に対し「無害な接着剤を8分の1カップほど、ピザソースに混ぜる」というアドバイスを表示したなど、さまざまな“珍回答”がXでシェアされる事態に。米Googleが4月に海外ネット掲示板「Reddit」との提携を拡大した影響も指摘された。2013年ごろにRedditで同様のジョークが投稿されていたためだ。

　Googleは事態を受け、同月末に対策を発表。Xの投稿については、誤った結果を生成することを目的とした検索があった他、偽造されたスクリーンショットも共有されていたとした。一方で「ピザに接着剤」のケースは「皮肉や荒らしコンテンツを掲載したフォーラム」からの情報を引用してしまったと認め、改善を約束していた。しかし、今度は日本で似た動きが発生してしまった格好だ。

　AI Overviewは12月3日時点でも試験運用版で、Googleは開発初期の機能を先行利用できる「Search Lab」に参加していなければ表示されないとしている。年齢制限もある他、試験版のために「作り話をする可能性がある」「誤解をする可能性がある」とも説明している。

　AI Overviewに限らず、ChatGPTなど生成AIについては、もっともらしいうそを提示する「ハルシネーション」（幻覚）が起きる可能性があり、利活用を巡る問題の一つとして、各社が改善や対策を進めている。

　Googleは「ピザに接着剤」問題を巡り「AI Overviewは、他のLLM（大規模言語モデル）製品のように『幻覚』を起こしたり、事実を捏造したりすることは通常ない」としていた。一方で「間違った結果を出すのは、クエリの解釈ミス、Web上の言語のニュアンスの解釈ミス、利用できる有益な情報があまりないことが原因で、こうした問題は他の検索機能でも発生する」とも説明しており、この課題に対応し切れていない様子だ。

　一方、GoogleはAI Overviewの対象ユーザーを拡大する方針も示している。ユーザーからはフェイクや誤解につながる懸念を心配する声も多く、SNSでは「利用者のリテラシーがこれまで以上に求められる」「育児や健康に悪影響を及ぼす可能性もあるのでがないか」との意見も見られた。