メディア

生成AI活用、最終形は「常時推論」へ　人材・データ基盤・システム調達から見る「現在」と「未来」：エンタープライズAI　導入実務の勘所

本連載のこれまでの知見を総括しつつ、生成AI活用が向かう次なる段階「常時推論」について展望する。自律的なAIがビジネスをどう変えるのか。その未来と実践の要諦を解き明かす。

» 2025年12月24日 08時00分公開

この記事は会員限定です。会員登録すると全てご覧いただけます。

　これまでの全4回にわたる連載では、企業における生成AI活用の実践的なアプローチについて解説してきました。最終回となる本稿では、これまでの学びを総括するとともに、生成AI活用が次に向かう「常時推論」という新たな段階について展望します。

　生成AIの業務活用は、もはや選択肢ではなく必須の経営課題です。しかし、難しく考える必要はありません。小さく始めて、学びながら推進していけばよいと思います。本稿では、連載を通じて積み上げてきた知見を振り返りながら、生成AI活用の「今」と「未来」について整理します。

　なお、本稿は執筆時点の情報に基づいています。生成AIの技術アップデートは頻繁にあるため、時間経過による齟齬（そご）にはご注意ください。

筆者プロフィール

内田匠（Takumi Uchida）

インキュデータ株式会社 R&D室、筑波大学　非常勤講師

京都大学総合人間学部（学士）、筑波大学社会人大学院（博士、システムズ・マネジメント）。情報処理学会、人工知能学会などに論文採録実績。Web広告代理店にて広告設計と効果改善業務。リクルートにてデータサイエンティスト、エンジニアとしてAIアルゴリズムを開発。2021年よりインキュデータに参加し、新規事業開発を担当。

大手メディアにおける広告効果の可視化BIツール開発、結婚情報誌に掲載されている画像の解析アルゴリズム、アルバイトのシフトを自動配置するアルゴリズム開発を担った他、深層学習を使った競馬の着順・回収率予測やChatGPT3.5を使った競馬の予測コメント自動生成で実績。インキュデータではデータクリーンルームを使った分析手法の開発や生成AIを使った新規事業／業務効率化の検討に従事する。

生成AI活用推進の3つの投資要件

　第1回では、生成AI活用における3つの投資要件について整理しました。

従業員トレーニング
システムの調達、開発
データ整備

生成AI活用における投資対象の全体像（出典：インキュデータ提供資料）

　その上で、従業員トレーニングとデータ整備から着手し、システムはなるべく外部調達で対応し、自社開発を避けることをお勧めしました。生成AIの業務アプリやシステムは次々と新しいものがリリースされているため、投資した後に陳腐化するリスクを避けるためです。

　以降の第2～4回では、それぞれの投資要件について深掘りをしました。

従業員トレーニング（第4回の振り返り）

　生成AI活用人材の定義については、第4回で解説しました。活用推進フェーズごとに必要な組織体制とキャリアパスを整理しました。

　組織体制は以下のフェーズごとに段階的に進化します。

フェーズ1（探索期）：　臨時の横断組織「AI推進室」を設置し、パイロットプロジェクトで有効性を実証
フェーズ2（展開期）：　各部門にリーダーを配置し、部門固有の業務にAIを適用
フェーズ3（変革期）：　自律型AIによる業務の本格的な自動化と組織の再編成

　そして、以下3つのキャリアパスが存在することを認識した上で、従業員のキャリア開発の方向性を検討する必要性について説明しました。

設計者／管理者パス：　経営層、プロジェクトマネジメント、部門リーダー
専門家パス：　生成AIエンジニア、インフラエンジニア
オペレーターパス：　日常業務でAIを活用する現場担当者

企業における生成AI活用フェーズの変遷（出典：インキュデータ提供資料）

　生成AI活用では、従来の業務スキルだけでなく、AIへの指示力（プロンプトエンジニアリング）とAI出力の評価力（クリティカルシンキング）が重要になります。「AIスキル×ドメイン知識」を持つ人材の育成が、競争優位性の源泉となるでしょう。

システムの調達、開発（第3回の振り返り）

　第3回では、データマーケティング業務の実証検証を通じて、業務のAI駆動化の現実を体験しました。AI駆動とは、人間が入力する業務目的プロンプトに従い、AIが自律的にタスクを設計し、必要なデータ処理やモデル構築、アウトプット生成を自動的に実行する仕組みです。AI駆動により、人間はAIにタスクを委任し、その結果を評価し、責任を持つ役割にシフトします。

生成AI活用人材の役割と、システムにおける処理の流れ（出典：インキュデータ提供資料）

　DVDレンタルDM施策の自動化デモによるAI駆動化の実証実験では、「顧客離脱スコアリングの自動実行」「レコメンドモデル構築と性能レポート」「パーソナルDMの生成と確認用アプリの構築」といったデモの結果を示しました。

　実証実験の結果、「エンド・ツー・エンドの自動化実現（分析からメール生成まで約3時間）」「非エンジニアでも実行可能な操作性」「50～90％の工数削減」「AIが生成したコードや文面の品質が安定」といった効果が明らかになりました。

　一方で、「AI出力の検証に専門知識が必要」「プロンプト設計によって出力品質が変動」「データ品質が直接結果に影響」といった課題も浮き彫りになりました。

データ整備（第2回の振り返り）

　第2回では、データプラットフォーム3社の戦略比較を通じて、データ基盤選定の考え方を解説しました。

　「Treasure Data」はマーケティング特化型のデータ基盤製品です。統合顧客プロファイル（CDP）を基盤とした深い顧客理解、マーケター向けのGUI完結型ワークフロー、セグメント作成から施策実行までの最短距離といった特徴を持っています（注1、2）。

　「Snowflake」は全社的なデータ民主化を目指すデータ基盤製品です。フルマネージドの「Cortex AI」による安全なAI活用、SQL文での操作を中心としたデータアナリスト向けアプローチ、厳格なガバナンスとセキュリティといった特徴を持っています（注3、4）。

　「Databricks」はAI内製化プラットフォームとしての色合いが強いデータ基盤製品です。レイクハウスアーキテクチャによるデータ統合、「MLflow」によるAI開発ライフサイクル管理、開発者向けの柔軟なカスタマイズ性といった特徴を持っています（注5、6、7）。

　プラットフォーム選定で最も重要なのは「目的」です。「何を実現したいか」という明確なビジョンがあれば、おのずと最適な選択肢が見えてきます。目的がまだあいまいな場合は、まず「Microsoft 365 Copilot」や「Google Workspace」の「Gemini」などの利用から始めてみましょう。

「常時推論」から見る生成AI活用の未来

　これまでの4回で解説してきた生成AI活用は、主に「人間が指示を出し、AIがタスクを実行する」という形態でした。しかし、生成AI活用の次の段階では、AIが常に稼働状態で待機してデータをリアルタイムで処理し、即座に、あるいは自律的にアウトプットを出し続ける常時推論（Always-on Inference）という新たなAIの業務活用が検討されています。

「常時推論」とは何か？

　従来のAI活用は、特定のタスクが発生した際に都度AIを呼び出して処理させる「オンデマンド型」や、データを一定期間ためてから夜間に一括処理する「バッチ処理型」でした。それに対して、常時推論はAIが常に稼働状態で待機し、データストリームをリアルタイムで処理し、即座に、あるいは自律的にアウトプットを出し続ける状態を指します（注8～11）。

　これは、単にAIが24時間365日利用可能であるという意味だけではありません。ユーザーからの明示的な指示を待つだけでなく、環境の変化やデータの流れを常に監視・解釈し、プロアクティブ（能動的）に情報を提供したり、タスクを実行したりする、より自律的なAIの在り方を示唆する概念です。これにより、AIがユーザーの「今」のニーズや市場の突発的な変化を捉え、即座に対応することが可能になります。

　従来のAIが「呼ばれたら働く協力者」だとすれば、常時推論AIは「24時間体制で状況を監視し、対策をとり続ける管理人」のようなものだと言えます。

ビジネス現場での活用シナリオ

　常時推論AIは、既にさまざまな業界で実用化が検討されています。以下、代表的な活用シナリオをご紹介します。

　1つ目は金融業界の不正取引検知です。従来の不正取引検知はバッチ処理のため、不正検知が翌日になってしまうと被害が拡大するという課題がありました。また、静的なルールベースでは、巧妙な不正手口に対応しにくい、正常な取引を誤って検知する「誤検知」が多くなりがちで、顧客体験を損ないやすいといったデメリットもありました。

　このケースに常時推論AIを実装することで以下のようなメリットがあります（注12）。

個別パターンの常時学習：　顧客一人一人の取引パターンや操作履歴を常時学習し、個人固有の「正常な行動プロファイル」を動的に生成・更新
リアルタイム異常検知：　全取引をリアルタイム監視し、正常プロファイルからの逸脱を瞬時に検知。従来のルールでは捉えられない未知のパターンも高精度で検知可能
即時対応：　疑わしい取引を即座にブロックし、アラートを発報。本人、金融機関へ自動通知し、不正利用の被害を未然に防止

　2つ目の例はEコマースのダイナミックプライシングです。従来型のダイナミックプライシングは「一律の価格設定や日次更新では、顧客個別の購買意欲に対応できない」「競合価格や在庫状況の変化への対応が遅れる」「過去データに基づく推薦では『今この瞬間』の顧客意図を捉えられない」といった課題がありました。

　このケースに常時推論AIを実装することで、以下のようなメリットがあります（注13、14）。

個々の顧客に最適化されたダイナミックプライシング：　顧客の閲覧履歴、カート状況、過去の購買履歴をリアルタイム統合分析。競合サイトの価格、在庫状況、天候、SNSでの話題性などの外部データも統合。これらのデータを基に、顧客一人一人の「価格弾力性」を瞬時に推論し、最適価格を提示
瞬時にパーソナライズされた商品推薦：　顧客のクリックストリーム（どの商品をどの順で見たか）をリアルタイムで分析し、「今、この瞬間」の顧客の意図を深く理解。「Aのデザインより、Bの機能性に引かれている」といったユーザーの思考プロセスを推論し、顧客の文脈に寄り添った説得力のある推薦文を生成

　3つ目の例は製造業の予知保全です。予知保全においては、定期保全では突発故障を防げず、事後対応でダウンタイムが発生したり、静的ルールでの運用で複雑な劣化パターンを捉えられなかったり、保全タイミングの最適化が困難だったりといった課題がありました。

　このケースに常時推論AIを実装することで、以下のようなメリットがあります（注15、16）。

エッジとクラウドの協調によるリアルタイム解析：　IoTセンサーから機械の振動・温度・音響データを常時収集し、エッジデバイスにおいてミリ秒単位で異常を検知。収集したデータを基に、クラウドで長期的な劣化パターンを学習し、予知保全計画を立案
AIによる異常検知：　正常稼働時のデータから「正常とは何か」を深く学習。リアルタイムデータが「正常」からどれだけ逸脱しているかを常に評価。未知のパターンであっても「異常の兆候」として検知
継続的なモデル改善：　現場で検知された新たな異常データをクラウドで再学習。それによって賢くなったAIモデルを再びエッジデバイスに配信し、精度を継続的に向上