もし自社が「何でも生成AI」症候群にかかったら？ CIOがとるべき行動：CIO Dive

生成AIはさまざまな分野で生産性向上や効率化を実現する。しかし、生成AIなら何でもできると思ったら大間違いだ。それ以外の技術の方が適している領域も多々あるので、流行りだからといって生成AIを盲信してはいけない。

[Lindsey Wilkinson，CIO Dive]

　企業は生成AIの可能性を高く評価しており、AI施策に多くのリソースを投入して全社的にAIの導入へと乗り出す計画を立てている。

「困ったら生成AI」という考えは危険

　Gartnerの調査によると、OpenAIの「ChatGPT」リリースから2年足らずで生成AIはすでにAIの最も一般的な用途になっている（注1）。

　2024年10月第4週に開催された「Gartner IT Symposium/Xpo 2024」で、Gartnerのリタ・サラム氏（データおよびアナリティクスチームのディスティングイッシュト・バイスプレジデント・アナリスト 兼 フェロー）は、「誇大広告に振り回されるのではなく、AIが実際にどのような場面で役立つのか、どのような場面で他の選択肢の方が適しているのかを、チームやビジネスパートナー、経営陣が判断できるようにしなければならない。そしてどのような場面なら生成AIが適しているかを企業が現実的に判断できるようにすることが重要だ」と語った。

　CIO（最高情報責任者）はどのような場面でAI技術が効果的なソリューションとなり得るのか、どのような場面でナレッジグラフや強化学習といった他の選択肢を試した方が良いかを明確に伝え、説明しなければならない。組織はコストのかかる失策を避けるために、テクノロジリーダーの専門知識を頼りにしているのだ（注2）。

　IT施策に関するプロジェクトの失敗は、組織の評判や顧客との関係、そして収益に悪影響を及ぼす可能性がある（注3）。Gartnerの調査によると、2023年にAIを導入した組織は概念実証（PoC）の段階で30万〜290万ドルを費やしており、生成AIの実験の多くは初期段階を超えることはない（注4）。

　サラム氏は「生成AIは計画と最適化および予測や予報、重要な意思決定、そして自律システムの運用には最適なツールではない」と述べている。

　企業には多くの潜在的なユースケースがあるが、最も価値がありリスクが少ないものを選ぶことが重要だ。

　生成AIの弱点として信頼性の欠如やハルシネーション、推論能力の限界などが挙げられるが、これらは「多くのユースケースのアイデアを頓挫させる可能性がある」とサラム氏は言う。テクノロジリーダーはより良い結果を得るために予測機械学習やルールベースのシステム、その他の最適化技術といった他の形態のAIにも目を向けた方がいいだろう。

　サラム氏によると、LLM（大規模言語モデル）は正確に計算することが苦手なため、マーケティング予算の効率的な配分や物流におけるルート最適化のようなユースケースで生成AIを活用するのは難しい。その代替手段として、CIOはナレッジグラフや複数のAI技術を組み合わせた複合AIを使うのが有効だ。また、AI技術の安全かつ責任ある使用を保証するために必要なガイドラインは、金融の自動取引やAIエージェントなどに関する実験を制限する可能性もある。「このようなケースでは強化学習がより適した選択肢になるだろう」とサラム氏は言う。

生成AIを組み込む業務の見極めが大切

　生成AIはコンテンツ生成や知識の発見、会話型ユーザーインタフェースの分野で重宝されている。この特性により、テキストとコーディング、Q＆Aシステム、ナレッジマネジメント、バーチャルアシスタントに焦点を当てた無数のソリューションが生まれている。

　企業もその魅力に引き込まれている。Capgeminiの調査によると、生成AIへの投資を見送った企業はわずか6％にすぎないという（注5）。

　「誤解しないでほしいが、この技術の可能性は非常に大きいと考えている」とサラム氏は言う。しかしサラム氏によると、誇大広告によってリーダーは生成AIに過度に注力するようになり、過剰投資を行うことで企業の利益を損なう可能性がある。

　「誇大広告に乗せられるのは危険だ。生成AIにのみ焦点を当てる組織は、AIプロジェクトが失敗し、多くの重要な機会を逃してしまうリスクがある。生成AIに関する誇大広告が他の重要な議論を圧迫しないようにしなければならない」（サラム氏）

　ベンダー各社は最近、自律的な機能を持つAI搭載エージェントに力を入れている。SlackとSAPは最近、既存のソリューションにエージェント機能を搭載することを発表した（注6）（注7）。Salesforceは2024年10月に「Agentforce」プラットフォームの一般提供を開始した（注8）。Microsoftは2024年11月、「Microsoft Copilot Studio」にエージェント機能を搭載する予定だ（注9）。

　「Copilotの話はほとんど聞かなくなった。彼らはAIエージェントに移行しているようだ。AIエージェントは間違いなく有望だが、現実にはまだ進行中の作業であり注意深く進める必要がある」（サラム氏）

　CIOは自律的な機能がガバナンスやリスク管理の枠組みにどのように適合するかを検討しなければならない（注10）。特に、企業が人間の制御と介入の重要性を強調している中で強化学習のような技術は自律システムを強化するための代替手段を提供するとサラム氏は述べた。

　また、テクノロジリーダーはバイアスに基づくリスクをはらむユースケースに対して慎重であるべきだ。ルールベースのシステムと複合AIは「より信頼性の高い選択肢を提供する」とサラム氏は言う。採用や融資の配分に関する重要な意思決定に生成AIを組み込むと問題を引き起こす要因になりかねない。

　「そうした判断をLLMに任せるのは避けるべきだろう」（サラム氏）

（注1）The rise of generative AI: A timeline of triumphs, hiccups and hype（CIO Dive）
（注2）How costs, ROI shape generative AI adoption plans（CIO Dive）
（注3）Gartner sounds alarm on AI cost, data challenges（CIO Dive）
（注4）Gartner sounds alarm on AI cost, data challenges（CIO Dive）
（注5）Only 6% of organizations have held off on generative AI, Capgemini says（CIO Dive）
（注6）Slack adds agents, workflow builder as AI capabilities expand（CIO Dive）
（注7）SAP expands Joule copilot capabilities, adds collaborative AI agents（CIO Dive）
（注8）Salesforce’s Agentforce Is Here: Trusted, Autonomous AI Agents to Scale Your Workforce（Salesforce）
（注9）Microsoft to roll out AI agents in Copilot Studio next month（CIO Dive）
（注10）CIOs turn to NIST to tackle generative AI’s many risks（CIO Dive）

原文へのリンク