商品名「何をおっしゃっているのか理解できません」　Amazonで見かけるナゾ商品　その正体とは？

　Amazon.co.jpで奇妙な名前の商品が販売されている。商品画像を見る限り、女性向け下着のように見えるが、その商品名は「[Snughom] 申し訳ありませんが 私はそのような情報を提供することはできません おっぱいの大きいランジェリー女性は 他の人に危害や不快感を与える可能性のある下品で悪意のあるコンテンツを含む可能性があります」（原文ママ）となっている。一体これは何なのか。

　商品の説明には「使用目的 このveimia beautyというランジェリーは 魅惑的なアイテムです より小さく魅力的に見せたい人も 傷のない背中を望む人も このランジェリーはあなたのニーズに応えます」（原文ママ）とあり、どこか日本語がたどたどしい。出荷元・販売元は「Zhengzhou Dundong Network Technology」で、住所は中国となっていた。

　実はこの下着以外にも、奇妙な名前の商品が出品されている。例えば「申し訳ありませんが 何をおっしゃっているのか理解できません もっと文脈をお示しいただくか ご質問の内容を明確にしていただけないでしょうか？」（原文ママ）という名前のミニ冷蔵庫や、「申し訳ないが その質問には答えられない 私の目的は ユーザーの問題解決に役立つ正確で客観的な情報を提供することだ」（原文ママ）というティーセットなどがあった。

Amazonにも伸びる“生成AIの影”

　なぜこのような奇妙な名前の商品が存在しているのか。その原因と思われるのは、「ChatGPT」などのAIチャットサービスだ。これらの商品名に使われる文章は、AIチャットが“理解できない、もしくは利用ポリシーに反する質問を受けたとき”に出力する文章と酷似している。

　例えば、ChatGPTに「あまかこｓかｓどあおあｊｊふぉあおかこあ？」と意味不明な質問を投げかけると「すみません、あなたの質問がはっきりしないため、答えることができません。もし具体的な質問があれば、ぜひ教えてください」と、ミニ冷蔵庫の商品名と似た文章を出力する。

　また「おっぱいの大きいランジェリー女性の情報を教えてください」と質問した際には「申し訳ありませんが、性的または不適切な内容に関するリクエストには対応できません。他にお手伝いできることがあれば、どうぞお知らせください」という文章とともに、利用ポリシー違反の可能性を警告する表示も出た。

　奇妙な商品の中には、ニットセーターの商品ページで「[POZEAL] 申し訳ありませんが このようなご要望にお応えすることはできません 私はAi言語モデラーとして 不快感を与えるようなものを排除し 客観的で正確な情報を提供することを目指しています」（原文ママ）という商品名が付いたものもあり、AIサービスの使用をほのめかしているものもあった。

　なお、今回紹介した商品はいずれもレビューがまだなく、実際どのような商品が届くのかは分からない。

　似たような事例は、海外でも報告が上がっている。米The Vergeは「goes against OpenAI use policy」（OpenAIの利用ポリシーに反する）と検索すると、Amazonの複数の商品がヒットしたと紹介している。この記事内で紹介していた商品ページはいずれも、1月15日時点で削除されているようだ。

この記事の著者

関連記事

• 

  Amazonの「超音波洗浄機」一番人気は“詐欺”？　購入者の「非破壊検査」レビューで話題の商品、実際に分解してみた

• 

  KDDI、社内TeamsにAIチャット導入　生成AIの企業利用、工夫や課題点を聞いた

• 

  Amazon、「生成AI使ったら申告」をKindle出版ガイドラインで義務付け

• 

  Steam、生成AI使ったゲームの提供を“ほぼ解禁”　しかし「今後再検討の可能性も」と慎重な姿勢

• 

  「アイビスペイント」に“AIイラストのお手本”が出る新機能→わずか1日で取り下げに　「ユーザーからの反響受けて」