Google検索の“AI概要”がおバカすぎる？　トンデモ回答が続出、強まるフェイクへの懸念（2/3 ページ）

海外でも同様の事態は起きていた　「ピザに接着剤」騒動

　実は同様の事態は、海外で先行して発生していた。米国で試験提供が始まった5月には「チーズがピザにうまくくっつかない」という検索に対し「無害な接着剤を8分の1カップほど、ピザソースに混ぜる」というアドバイスを表示したなど、さまざまな“珍回答”がXでシェアされる事態に。米Googleが4月に海外ネット掲示板「Reddit」との提携を拡大した影響も指摘された。2013年ごろにRedditで同様のジョークが投稿されていたためだ。

　Googleは事態を受け、同月末に対策を発表。Xの投稿については、誤った結果を生成することを目的とした検索があった他、偽造されたスクリーンショットも共有されていたとした。一方で「ピザに接着剤」のケースは「皮肉や荒らしコンテンツを掲載したフォーラム」からの情報を引用してしまったと認め、改善を約束していた。しかし、今度は日本で似た動きが発生してしまった格好だ。

　AI Overviewは12月3日時点でも試験運用版で、Googleは開発初期の機能を先行利用できる「Search Lab」に参加していなければ表示されないとしている。年齢制限もある他、試験版のために「作り話をする可能性がある」「誤解をする可能性がある」とも説明している。

　AI Overviewに限らず、ChatGPTなど生成AIについては、もっともらしいうそを提示する「ハルシネーション」（幻覚）が起きる可能性があり、利活用を巡る問題の一つとして、各社が改善や対策を進めている。

　Googleは「ピザに接着剤」問題を巡り「AI Overviewは、他のLLM（大規模言語モデル）製品のように『幻覚』を起こしたり、事実を捏造したりすることは通常ない」としていた。一方で「間違った結果を出すのは、クエリの解釈ミス、Web上の言語のニュアンスの解釈ミス、利用できる有益な情報があまりないことが原因で、こうした問題は他の検索機能でも発生する」とも説明しており、この課題に対応し切れていない様子だ。

　一方、GoogleはAI Overviewの対象ユーザーを拡大する方針も示している。ユーザーからはフェイクや誤解につながる懸念を心配する声も多く、SNSでは「利用者のリテラシーがこれまで以上に求められる」「育児や健康に悪影響を及ぼす可能性もあるのでがないか」との意見も見られた。

この記事の著者

関連記事

• 

  「Xの広告が変になってる」は本当か　流れてきた広告500件を集計して確かめてみた　見えてきた傾向

• 

  “年利実質18％”のヤマダ積立預金、キャンペーン中止に　ヤマダデンキ「見通しが甘かった」

• 

  「新語・流行語大賞」“が”不適切にもほどがある

• 

  NHKの「ネット受信契約（案）」が“ダークパターン”過ぎて見過ごせない件　一度“同意”したら取り消せない、は取り消しか