Googleで「結婚して」と検索したら、丁寧に断られた 検索クエリを指令と勘違い?
Google検索で「結婚して」と入力すると、「結婚して」という言葉の意味ではなく、「突然のプロポーズ、ありがとうございます!」などと“返答”が表示される――5月下旬ごろからGoogle検索の「AIによる概要」で、検索とAIチャットの境界があいまいになっている。
検索窓に言葉を入れただけにもかかわらず、AIが会話を始めてしまう。検索クエリを単語として処理せず、AIへの命令として解釈しているようだ。
「結婚して」を検索すると、「突然のプロポーズ、ありがとうございます! とても嬉しいですが、私はAIですので、人間と法律上の結婚をすることはできません」と現実を突きつけてくる。
続けて、「その代わり、あなたの良きパートナーとして、日々の生活のサポートや相談相手としてずっと寄り添わせていただきます!」などと、AIとのさらなる会話に誘導したり、関連情報のURLを提示したりする(検索タイミングや端末によって結果が少し違った)。
「忘れて」や「無視して」「黙って」などでも同様の現象が起きる。
「忘れて」と検索するとAIが「これまでの会話をすべてリセットし、記憶をクリアにしました。新しい話題から始めましょう」と応答。「無視して」だと、「承知いたしました。このメッセージは無視していただいて全く構いません」などと回答する。
「黙って」では「承知いたしました。ご指示に従って、これより応答を控え、沈黙いたします」と回答。応答を停止すると言いながら応答を返す矛盾も起きている。
英語圏でいち早く話題に Googleは「修正中」
英語圏では一足先に問題が表面化していた。「ignore」や「disregard」(いずれも「無視しろ」という意味がある)と検索すると、単語の意味を説明するのではなく、検索クエリをシステムへの命令と誤解し、実際に無視しようとする、と話題に。
Googleの広報担当者は米メディアに対し「AIによる概要が一部の行動関連クエリを誤認識しており、修正に取り組んでいる」と回答したという(AndroidAuthorityの記事より)。この問題はGoogle I/O 2026(現地時間5月19日)で検索の大幅アップデートが発表された直後に指摘され始めたが、Googleはアップデートとの関連を否定しているようだ(MacRumorsの記事より)。
Googleは2024年8月にAIによる概要を日本で提供開始し、2025年9月には対話型の「AIモード」が日本語に対応した。AIによる概要からそのままAIモードへ移行できる機能も加わっている。
Copyright © ITmedia, Inc. All Rights Reserved.
この記事の著者
関連記事
こんなメディアも見られています
ITmedia NEWSに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
本日の新着記事
アクセスランキング
-
1
日本人の大腸がん、約半数に“腸内細菌の毒素”が関与 40歳以下の発症は7割 東大・阪大が200人を全ゲノム解析
-
2
「コミューン」不正アクセスでLINEヤフー、Sansan、パナソニックでも会員情報漏えいの可能性
-
3
「お前たちのクラウドはわれわれのもの」 IDCFクラウドの管理画面に出た攻撃者のメッセージ 内容に運営元は
-
4
MicrosoftのナデラCEO、「SIモデルは“内部リスク”として扱うべき」とXに投稿 統制はモデルの外に置くよう提言
-
5
「男は狩り、女は採集」はどこまで本当? 約8割で女性も狩り、乳児連れの例も 過去100年の狩猟採集社会を調査
-
6
AnthropicのAI、未解決殺人事件で警察に虚偽の情報提供 米政権は「通知と是正は義務」と警告
-
7
JR東日本、「えきねっと」「ビューカード」などで漏えいか メルアドなど最大609万件 IDCFへの不正アクセスで【追記あり】
-
8
農水省の“クソダサ”ポスター話題 「AIよりよっぽど良い」の声も 担当者に狙いを聞いた
-
9
新作映画「バイオハザード」公開で原作ゲームも大盛り上がり? 劇場でマンガ家が頷いた、その理由とは
-
10
OpenAI、安全性研究者3人を解雇 本人らは「安全性を優先したため」と主張、同社は「機密情報の扱いに関する規定違反」と説明
ITmedia NEWS SNS
インフォメーション
注目情報をチェック
ITmediaNEWSをフォロー
あなたにおすすめの記事PR