消費者「AIは怖い」、企業「ルールなしで導入OK」――調査で浮かび上がった深刻なギャップ

[Michael Brady，Retail Dive]

　コンタクトセンター向けソフトウェアを取り扱う米Genesys（ジェネシス）の調査によると、カスタマーエクスペリエンス（CX）リーダーの4分の1以上が「自社はエージェント型AI（Agentic AI）を導入できる」と答えた一方で、ガバナンスポリシーが存在しない企業も少なくないことが明らかになった。

2024年6月18日、フロリダ州マイアミのベスト・バイ店舗で、Microsoft Copilot+がインストールされたノートPCを鑑賞する顧客（ゲッティイメージズ）

　8月に発表された同社の調査によると、消費者の5人に4人は「企業がAIを導入するなら強固な安全策を講じてほしい」と回答した。背景には、AI技術そのものへの不信感がある。

　しかし、全社的かつ包括的なAIポリシーと監督体制を整えていると答えたビジネスリーダーは3割未満にとどまった。

　さらに問題なのは、ガバナンスがないにもかかわらず、CXリーダーの4分の1以上が「自社はエージェント型AIを導入できる」と考えている点である。

　企業は消費者の不信感をよそに、急速にAIを導入・活用し、マーケティングにも利用している。この姿勢は業績悪化につながりかねない。

製品説明に「AI」の表現が含まれると「買いたくなくなる」　なぜ？

　実際の調査では、製品説明に「AI」という表現が含まれると購入意欲が低下することが示された。これは感情的な信頼を損なうためだとされる。消費者の不信感の根底には、誤情報・偽情報・著作権侵害など倫理的リスクや、AI生成物の正確性への懸念があると、米調査会社Forrester（フォレスター）の主席アナリストであるオードリー・チー＝リード氏は、姉妹媒体「CX Dive」に語っている。

　消費者のAIへの信頼は、特に裏方で利用される場合に高まっているが、それでも多くの顧客は人間と話すことを好む。少なくとも、複雑または繊細な問題では「人間が関与している」という保証を求めている。

　Genesysの調査では、CXリーダーの9割近くが「強固なガバナンスはブランドの評判を守り、顧客との長期的な信頼とロイヤルティを築き、自律型システムへの安心感を高めるうえで不可欠だ」と認識している。

　それにもかかわらず、CXリーダーの3分の1以上が「自社にはほとんど、あるいは全く正式なガバナンスポリシーがない」と回答している。

　Genesysはプレスリリースで次のように警告している。

　「消費者は透明性と監督を強く求めているにもかかわらず、リーダーが必要性を認識しながら実行が伴っていないことは特に懸念すべき状況だ。企業はエージェント型AIを大規模に導入する前に、このギャップを埋めることが不可欠である」

　また、機微な顧客データを扱う際は特に、消費者はエージェント型AIを信頼していない。CXリーダーの5人に4人以上が「AIはデータを保護できる」と信頼しているのに対し、消費者で同様に信頼しているのは5人に2人未満にすぎない。

　一方で、消費者の半数以上は「自分の問題を解決するのが人間かAIか」には関心がなく、「迅速かつ完全に処理されること」を望んでいるにすぎないと、Genesysの調査は示している。

原文へのリンク