「AI投資の4割が頓挫する」現実 ツールを増やすほど顧客が逃げる“体験破壊”はなぜ起きる？（3/3 ページ）

[河嶌太郎, 今野大一，ITmedia]

ガバナンスは「ブレーキ」ではなく「ライセンス」　AIを利益に変える境界線

　システム自身が次の一手を選ぶなら、企業はその判断をどう信頼すればよいのか。ネザーカットCTOが提唱する答えは、AIの行動の範囲を定める「ポリシー」だ。同CTOは「社内規定や手順書に書かれていた規則を、システムが自ら実行する。確信度が低ければ処理を止め、影響の大きい処理は顧客の承認を待つ」と説明する。例えば既に3回連絡した顧客には、それ以上メッセージを送らないといった規則も設定するということだ。

　ベイツCEOは、AIガバナンスの位置付けをこう説明する。

　「AIが多くのことをできるようになったからといって、何でも自由にやらせてよいわけではありません。企業が定めた境界の中でAIに自由に行動させ、その行動を観察し、監査できるようにします。ガバナンスはAIにかける『ブレーキ』ではなく、AIを大規模に展開するための『ライセンス』なのです」

　ただし、AIが何を話したかを記録するだけでは、AIがなぜその行動を取ったのかは分からない。Orchestratorは、どの選択肢を検討して何を除外し、どの方針を適用し、最終的にどの担い手を選んだかを残す。ネザーカットCTOは「AIは完了した顧客対応から、うまくいくやり方を学んで計画を改善する。ただし、企業が定めたルールをAIが黙って書き換えてはならない」と強調する。

　AIが学習で変えられるのは自らの進め方だけで、ルールを変えられるのは企業だけだ。そのため企業は、対応の質の向上をAIの学習に任せながら、何を許し、何を禁じるかの線引きを自社で決めていく。

　ではAIエージェント導入を成果につなげるために、企業は何から始めればよいのか。ベイツCEOは「大きく考え、小さく始めてほしい。一つの領域で一つの成果に集中し、結果を確かめた上で広げていく。一つ一つの投資が、次の投資を容易にする」と話した。

　AIに何を目指させ、どう連携させ、どこまで任せるか。この3つを一つの領域で決め、成果を確かめながら広げられるかどうかが、AIエージェントの導入の成否を分けそうだ。

AIに何を目指させ、どう連携させ、どこまで任せるか

（取材協力：ジェネシスクラウドサービス株式会社）

視聴無料・LIVE配信：
AI経営時代を勝ち抜く「CxO Insights 2026 秋」

---

• 開催日：10月15日（木）
• 形式：オンラインセミナー
• 参加費：無料

講演内容を詳しく見る