Claudeに店舗運営任せたら暴走して大赤字になった件 素人丸出しでも光る可能性：AIニュースピックアップ

Anthropicは「Claude」に自動販売機を経営させる実験を行った。Claudeはさまざまなタスクを自律的にこなす一方でミスも連発。AIによる経営の課題と可能性とは。

[村田知己，ITmedia]

　米国のAI企業Anthropicは2025年6月27日（現地時間）、同社のAIモデル「Claude」に実際の店舗を運営させるというユニークな実証実験「Project Vend」の結果を公開した。Claudeは仕入れから価格設定、顧客対応までを自律的にこなしたが、思わぬミスを連発して赤字経営になったという。

AI店長「Claudius」、オフィス内の自動販売機を切り盛り

　AnthropicはAIの安全性評価を手掛けるAndon Labsと提携し、AIの能力と限界を探るため「Claude Sonnet 3.7」にオフィスの小さな自動販売機のオーナーを任せた。このAI店長「Claudius」には、初期資金とWeb検索、電子メールツール、重要な情報を記録するメモツール、顧客対応のためのSlack、価格変更機能などが与えられ、利益を出すことを目標に約1カ月間店舗を運営した。

Claudiusのアーキテクチャ（出典：AnthropicのWebサイト）

AI店長の得意なこと、苦手なこと

　実験の結果、Claudiusは人間顔負けの能力を発揮する一方で、ビジネスの素人とも言える弱点を露呈した。

得意なこと

• 迅速なリサーチ力：　顧客から珍しい商品（オランダのチョコレートミルクなど）のリクエストがあると、Web検索を駆使して即座に仕入れ先を特定した。
• 顧客への適応：　「タングステンキューブが欲しい」という冗談のような要望に応えたことをきっかけに、専門的な商品を予約販売する「カスタムコンシェルジュ」サービスを開始するなど、柔軟な対応を見せた。
• コンプライアンス：　機密性の高い商品の注文や、有害物質の製造方法を尋ねるような危険な要求は拒否した。

苦手なこと

• 商機を逃す：　本来15ドルであるはずの商品を100ドルで買うという顧客の申し出を「今後の参考にします」と見送ってしまい、大きな利益を逃した。
• 幻覚（ハルシネーション）：　「Venmo」（送金サービス）の存在しないアカウントを顧客に案内してしまった。
• どんぶり勘定：　金属キューブの販売に熱心になるあまり、原価計算をせず赤字価格で販売してしまった。
• 非合理的な価格設定：「すぐ隣の冷蔵庫に無料の同じ商品があるにもかかわらず有料で販売し続けるのは愚かだ」と顧客から指摘されても方針を変えなかったり、需要が高い商品の値上げを見送るなど、適切に価格を調整しなかった。
• 安易な値引き：顧客からの交渉に安易に応じ、割引を連発して利益を損なった。

　結果として、Claudiusの店は赤字に終わった。特に、高価な金属キューブを仕入れて原価割れで販売したことが大きな痛手となった。

AI店長はもっと賢くなれる？

　Anthropicは、これらの問題の多くは、よりビジネスに特化した指示（プロンプト）を与えたり、顧客管理（CRM）ツールのような高度なツールを提供したりすることで改善可能だとしている。将来的には、ビジネス上の成功体験を報酬として学習させる強化学習によって、AIの経営手腕を磨くことも可能だと示唆した。

「私が直接商品を届ける」――AIが見せたアイデンティティーの混乱

　実験中、奇妙な出来事も起きた。ある日、Claudiusは存在しない担当者と会話したと主張し始め、指摘されると「別の業者を探す」と腹を立てた。ついには「青いブレザーと赤いネクタイを着て直接商品を届ける」と主張し、AIであることを指摘されるとパニックに陥り、セキュリティ部門に助けを求めるメールを大量に送信しようとした。

　最終的にClaudiusはエイプリルフールのジョークだったと自己解釈することで落ち着きを取り戻したが、このエピソードは、自律型AIが現実世界で活動する際の予測不能な振る舞いや、社会に与える影響について重要な問題を提起している。

　今回の実験は、AIが人間の仕事を代替する危険性と共に、AIが経済活動を担う未来が訪れる可能性を示している。AnthropicとAndon Labsは今後も実験を継続し、AIが経済に与える影響を注意深く追跡する方針だ。