Google、「ピザに接着剤」回答についての対策を説明

公開 2024年05月31日 11時51分

[ITmedia]

印刷する

　米Googleは5月30日（現地時間）、同社がテスト中の検索機能「AI Overview」（日本では「AIによる概要」）をめぐり、「先週ソーシャルメディア上で奇妙で誤った概要（および大量の偽のスクリーンショット）が共有された」件について公式ブログで説明した。

「AI Overview」はテスト段階だ

　23日ごろから、X上にAI Overviewが「ピザソースに接着剤を混ぜるといい」など、不正確に回答している複数のスクリーンショットが投稿され、話題になった。

　検索担当副社長のエリザベス・リード氏は、「AI Overviewは、他のLLM製品のように「幻覚」を起こしたり、事実を捏造したりすることは通常ない。間違った結果を出すのは、クエリの解釈ミス、Web上の言語のニュアンスの解釈ミス、利用できる有益な情報があまりないことが原因で、こうした問題は他の検索機能でも発生する」と説明する。

　Xにポストされた例はごく稀なケースであり、「誤った結果を生成することを目的とした検索も見られた」という。さらに、偽造されたスクリーンショットも大量に共有されたという。実際、元Twitterの未発表機能ハンターで現在は米MetaでThreadsを担当するジェーン・マンチュン・ウォン氏などがAI Overviewの回答スクリーンショットを偽造するためのテンプレートを公開していた。

偽回答ジェネレータ

　とはいえ、一般的ではないクエリに関するものでは、実際に奇妙だったり不正確あったりするAI Overviewが表示されることもあり、改善が必要な領域が浮き彫りになったとリード氏は述べた。

　「ピザに接着剤」のケースは、「皮肉や荒らしコンテンツを掲載したフォーラム」からの情報を引用してしまったと認めた。

　また、Webページ上の言葉を誤って解釈して不正確な情報を提示したケースもあり、これらを受けて、アルゴリズムの改善、ポリシーに準拠していない応答を削除するためのプロセスの確立などを通じて対処したという。

　ここ数週間の例に基づいてシステムに12以上の技術的改善を加えた。その一部は以下の通り。

AI Overviewを表示すべきではないクエリを検出するメカニズムの構築、風刺やユーモアのコンテンツの制限
誤解を招く回答になりそうな場合、ユーザーが生成したコンテンツの使用を制限するためのシステム更新
AI Overviewがあまり役に立たないことが判明したクエリに対するトリガー制限の追加
ニュースやヘルスケアなどのトピックに関する強力なガードレールに加え、鮮度と事実性が重要なニュースについてはAI Overviewを表示しないようにし、ヘルスケアでは追加のトリガー改善を追加

　Googleは、「AI Overviewを表示するタイミングと方法を改善し続け、保護を強化していく。今後も継続的なフィードバックに深く感謝する」としている。

　本稿筆者はChromeブラウザでSearch Labsを有効にしており、以前はAI Overviewの回答が表示されていた。この騒動後、多様なクエリを入れてみたがAI Overviewが表示されることはなくなっている。

印刷する