なぜ、一部社員にしか使われないのか？ 生成AIの全社展開を阻む「3つの壁」

生成AIを導入する企業が増える中で、「思ったように全社に浸透しない」という課題が浮上している。全社に浸透しない理由とその打開方法について、生成AIのコンサルティングを手掛けるRidgelinezに聞いた。

[田中広美，ITmedia]

Ridgelinezの水谷氏

　本番への生成AI活用元年とも言われる2024年。生成AIの業務での活用に取り組む企業が増えると同時に、「ごく一部の従業員しか使っていない」との困惑も広がっている。

　業務効率化や人的ミスの軽減、属人化の解消など、生成AIを利用することで得られるメリットは多岐にわたるが、ごく一部の従業員にしか使われていない状況ではそのメリットも限定されてしまう。

　そこで本稿では、生成AIの導入支援を含むITコンサルティングを手掛けるRidgelinezの水谷広巳氏（執行役員　パートナー）に、全社展開のために実施すべき施策と、最近注目を集めるRAG（検索拡張生成）が生成AIに関する課題解決にどのように役立つのかを聞いた。

生成AIの全社展開を阻む「3つの壁」　

　水谷氏は、「当社が支援しているお客さまの中にも、生成AIがPoC（概念実証）や実証実験にとどまり、実際の利用に踏み切れない企業が見られます」と話し、全社展開を阻む要因となる「3つの課題」について次のように指摘した。中には、IT部門が抱える課題も含まれている。それは何か。さっそく見てみよう。

1. 〈従業員の視点〉　理解の不足：　多くの従業員は、「生成AI」という言葉を知っているが、自身の業務にどう役立つのかというイメージが湧いていない　
2. 〈IT部門の視点〉　手段と目的の逆転：　IT部門は生成AIツールの導入自体が目的になってしまい、何のためにどう展開するかという目的を描いていない
3. 〈アーキテクチャの視点〉　本番システムの要件：　生成AIのツール導入や実証検証では機能面のみが重視されがちで、本番システムの導入に当たって非機能面が問題になる

図1　生成AIの全社展開を阻む「3つの壁」（出典：Ridgelinezの提供資料）

　これらの課題にはどのような対処が必要なのか。水谷氏はそれぞれの課題の背景と対処法について次のように語った。　

従業員の視点　理解の不足

　生成AIに関する話題であふれているように感じられるが、IT部門以外の従業員の多くは生成AIの技術や仕組みを理解しているわけではなく、何ができるかの知識もあまり持っていない。

　そこで、従業員の理解不足を解消するために何が必要か。生成AIとは何かという「認知」から、具体的な使い方を説明することで「興味を喚起する」、そして「実際に使ってみる」までのプロセスを導入前までに進める必要がある。導入後も、「定着」「利用拡大」のための施策が必要だ。「これらのプロセスは、『カスタマーサクセス』の考えに則って設定しました」（水谷氏）

　Ridgelinezでは従業員向けに、各段階の進捗（しんちょく）に合わせた勉強会やワークショップを複数回開催することで、右肩上がりで利用者を増やしているという。

　「導入したら終わり、勉強会を1回開いたら終わりではなく、ユースケースの共有やプロンプトを実際に書いてみる、使い方のコツを学習する、それぞれの業務で生成AIをどう活用するかを一緒に考えるなど、参加者の活用段階に合わせた内容で複数回開催しています。こうした地道な取り組みなしには、なかなか浸透しません」（水谷氏）

IT部門の視点　手段と目的の逆転

　OpenAIの「ChatGPT」をはじめとする生成AIツールはすぐに使い始めることが可能で、ベンダーも積極的に売り込むため、導入目的が曖昧（あいまい）なまま使い始める企業が多い。ツール導入やPoC自体が目的化しているIT部門では、「使いはじめたものの、PoCから進まない」例が散見される。

　そこで、「生成AIが経営にどう役立つのか」をゴールに据えて、自社にとって有効な形で展開する必要がある。ただし、生成AIは技術革新のスピードが早く、新しいツールも次々に登場する。生成AIではPoCの実施期間中に新しい技術が登場して、PoCが無駄になるというケースも見られる。

　「IT部門向けには新しい技術情報や性能評価、データ要件、自社に適用可能な業界特有の活用事例にキャッチアップするための勉強会が必要です。エンドユーザー向けの勉強会よりも一歩踏み込んだ内容を学ばなければいけません」（水谷氏）

アーキテクチャの視点　本番システムの要件

　PoCでは本番システムに必要な条件が全て明らかになるわけではない。本番環境でシステムを稼働させるために乗り越えなければならない以下のような項目がある。

• パフォーマンス・スケーラビリティ・アベイラビリティ：　多数の従業員が通常業務で使用することを想定したレスポンスタイムと安定的な稼働
• 既存システムとの連携：　既存システムの機能やデータとの統合を考慮し、シームレスな連携を実現する。データの流れや処理の生合成を確保し、運用効率を高める
• セキュリティ・ガバナンス：　社内規定や自社の業務に関連する法令を順守するため、生成AIの使用に関する明確なガイドラインを策定する
• コスト：　初期コストと運用コストを算出して、期待される投資対効果を明確化する

　導入や運用に当たって企業が最も気になるのがコストだろう。水谷氏は「LLMの運用コストは膨らみやすいので、注意する必要があります」と指摘する。「検証にはパフォーマンス面やトレーニングデータの質などの面で最も優れたLLMを利用することがありますが、こうしたLLMは運用コストが高くなりがちです。ROI（投資対効果）が得られるのかどうかをしっかりと考える必要があります」

RAGで解決できる課題とは？

　ITmedia エンタープライズ編集部とキーマンズネット編集部が合同で実施したアンケート調査「業務自動化に関するアンケート調査 2024」（注1）には、生成AIを利用する課題としてここまで取り上げてきた「全社への浸透が進まない」の他に、「生成される内容がビジネスで使えるレベルに達しない」という声が多く寄せられた。

　また、今後企業の利用が進む中で大きくなりそうな課題が、「AIに利用するための学習データが整備できない」というものだ。自社でLLMを構築するなど、多額の費用を投じて生成AIの活用に取り組む企業もこの課題を挙げていることから、予算の増大だけで解決する問題ではなさそうだ。

　生成内容の精度の向上や、学習データの整備といった課題に対して、最近話題になっているRAGは「効く」のだろうか。

　水谷氏は、最近RAGが注目されている背景について、「社内データをうまく使うために、既存のLLMにデータを学習させて生成AIモデルを最適化する方法がありますが、大手テック企業以外にはまだ難しいと思います。そこでRAGを組み合わせて、社内データを活用しようという企業が出てきています」と語る。

　RAGを利用することで、生成内容の精度向上は期待できるのだろうか。

　「LLMが事前に学習したデータを基に生成するのに対して、RAGは企業特有のデータや情報をうまく取り込むためのものです。生成する内容の精度を向上させるというよりは、企業固有のデータをうまく利用したいという目的に合致する技術だと考えています」（水谷氏）

　ただし、自社データをただ抱えているだけではRAGには使えない。RAGに利用できるようなデータ整備に必要なスキルはどの程度なのか。ユーザー企業が自力で実施することは可能だろうか。

　「RAGに使えるようにデータをベクトル化するための変換や、データを処理するためにどのレベルでチャンク（chunk：分割）するかにはコツがあります。これらがうまくいかない場合は、RAGを使っても思ったような結果が出ないという事態が発生します。ユーザー企業で取り組むところもあると思いますが、自力でやろうとするのはかなり難しいかもしれません」（水谷氏）

　どうやらRAGの利用でもスキル不足ゆえに実現が難しいといった「壁」や、PoC止まりに陥る可能性が存在するようだ。

　最後に水谷氏は、生成AIの利用促進に取り組むIT部門に向けて次のようなメッセージを送った。

　「生成AIは導入してすぐに使えるツールのため、ツールの導入や利用自体が目的化しがちです。どのツールでも同じことが言えますが、こうした特徴を持つ生成AIは特に、経営にどう貢献をするかが最も抜けがちです。利用することでどういうメリットが得られるのかを考え、自社の業界特有のユースケースは何かをきちんと把握した上で、地道な取り組みを継続して浸透を図ることが重要です」

（注1）「ChatGPTを自動化ツールとして使ってみた」　企業のホンネ【読者調査】　

インタビュイー紹介：　水谷広巳氏（Ridgelinez　執行役員　パートナー）

みずたに　ひろみ：クラウドベンダーの北米本社においてアーキテクトや、ICTサービス企業でのDirectorなどを経て、2020年にRidgelinezへ参画。クラウドやサイバーセキュリティ、ネットワークを中心と したグローバルプロジェクトに従事する。技術的なバックグラウンドを生かし、企業のIT戦略の立案や情報システム部門の変革、クラウドネイティブ化、テクノロジー ロードマップ策定などのコンサルティングを多数手がけている。