AI時代のインフラ再設計 モデルとデータを統合制御する「コントロールプレーン」の条件：推論、データ、統制で再設計する「AI 2.0時代」のアーキテクチャ

AI活用の競争軸はモデル性能から運用能力へ移りつつあります。多様な環境に分散するモデルやデータを安全かつ柔軟に一元管理するコントロールプレーンの役割と、持続可能性や主権、統制を両立するAI基盤の条件を解説します。

[吉田栄信（Cloudera），ITmedia]

この連載について

AI導入が進む中、多くの企業がPoC止まりやコスト、ガバナンス不足といった課題に直面しています。本連載（全3回）では、AI活用の壁はモデル性能ではなく「データと運用」にあることをひもときます。AIを試す段階から業務に組み込む段階に移行する「AI 2.0時代」を見据え、「データ基盤」「推論経済性」「AIガバナンス」という3つの観点から、次世代の企業IT基盤と推論アーキテクチャ設計の在り方を解説します。

　生成AIの企業活用は、新たな段階に入りつつあります。

　第1回では、企業AI活用の成否を左右するのはAIモデルの性能ではなく、データ基盤とデータ運用であることを取り上げました。第2回では、AI活用が進むほど推論量が増加し、推論設計そのものが競争力を左右する時代になりつつあることを取り上げました。そして現在、企業が直面しているのは、さらに本質的な問いです。

　「AIをどこで動かすのか。どのデータを利用するのか。そして、それらを誰が管理するのか」

　これらは単なるインフラ構成の問題ではありません。企業がAIとデータを自らの意思で管理・運用できる「主権」（Sovereignty）と、その状態を継続的に維持するための「統制」（Governance）の問題です。

　生成AIブームの初期、多くの企業はクラウドのAIサービスを利用することで短期間に概念実証（PoC）を実施しました。しかし、AI活用が本番業務へ広がり、機密情報や顧客データ、知的財産を扱うケースが増えるに従って、「使えるAI」だけでは十分ではなくなっています。

　企業が問われているのは、「最も高性能なAIを導入できるか」ではありません。AIを安全かつ継続的に運用し、変化する規制や事業環境に対応しながら企業価値へ結び付けられるかどうかです。

　AI活用の競争軸は、モデル性能から運用能力へと移りつつあります。そして、その中核となるのが「主権」と「統制」、そしてそれらを具現化してモデルとデータを統合制御する「コントロールプレーン」の存在です。

AI規制が「IT」の課題から「経営」の課題へ

　こうした変化の背景には、世界各国で進むAI規制があります。

　象徴的なのが「EU AI法」（EU AI Act）です。EUではAIをリスクレベルごとに分類し、高リスク用途については厳格な管理や説明責任を求めています。採用や人事評価、金融審査、医療診断など、人々の権利や社会活動に大きな影響を与える領域では、AIの利用方法そのものが規制対象となります。

　日本でも2025年に「人工知能関連技術の研究開発及び活用の推進に関する法律」（AI推進法）が施行され、政府はAI基本計画に基づく推進体制を整えています。加えて、総務省と経済産業省が「AI事業者ガイドライン」を策定し、事業者向けに透明性や説明責任、リスク管理に関する具体的な考え方を示しています。さらに金融や医療、公共分野などでは、業界ごとのガイドラインや法規制への対応も求められています。

　こうした変化によって、企業はAI導入を「精度」や「利便性」だけで評価することができなくなりました。

　そのAIは社内ポリシーを満たしているのか。利用するデータは適切に管理されているのか。誰が利用し、どのように判断したのかを後から説明できるのか。こうした問いに答えられなければ、AIを本番業務で安心して活用できません。AIは単なるITツールではなく、企業統治の対象に変わりつつあるのです。

AI時代の競争力を支えるデータガバナンス

　AI規制への対応と並んで重要な要素になるのが、データガバナンスです。

　データガバナンスとは、企業内のデータを安全かつ適切に管理し、必要な人が必要な目的で活用できるようにするための仕組みです。アクセス権限や利用ルール、データ品質、利用履歴などを含め、データを継続的に管理するための枠組み全体を指します。

　データガバナンス自体は新しい概念ではありません。従来は規制への対応やデータ品質の向上を目的として導入されてきました。AI時代には、その重要性が急速に高まり、中心的な役割を担うようになっています。

　従来のデータ活用では、人がデータを参照し、最終的な判断をしていました。一方、生成AIやエージェンティックAIは企業の機密情報や顧客データ、研究開発情報などを基に推論し、回答や判断を生成します。そのため、不適切なデータや管理されていないデータを利用すれば、AIの出力そのものが企業リスクにつながる可能性があります。エージェンティックAIでは、一つ一つの誤りが増幅され、その影響は組織全体に及びます。

　例えば金融機関や政府機関では、機密情報へのアクセス権限を厳格に管理しなければなりません。製造業では設計図や研究開発データを保護しながらAIに活用させる必要があります。また、多国籍企業では国や地域ごとに異なる法規制やデータ保護要件への対応も求められます。

　AI活用が広がるほど、企業はデータの品質だけでなく、「誰が」「どのデータに」「どの目的でアクセスしたのか」を継続的に管理できなければなりません。AI時代のデータガバナンスとは、単なる情報管理ではありません。企業がAI活用を本格導入し、拡大する上で必要な主権と統制を実現する基盤です。

　だからこそ、データガバナンスは情報システム部門だけの課題ではなく、企業全体の競争力とリスク管理を支える経営課題へと位置付けが変わりつつあります。

統制を実現するには、AIを動かす場所も変わる

　データガバナンスを実現しAIを適切に統制するためには、AIモデルを「どこで動かすか」という設計も見直さなければなりません。

　これまで多くの企業は、1つのクラウド基盤を中心にシステムを構築してきました。しかしAI活用が本格化するに従って、この前提は変わり始めています。その理由は、AIごとに求められる実行環境が異なるためです。

　例えば、公開情報を利用するチャットbotであればパブリッククラウドでも十分かもしれません。一方で、顧客情報や知的財産を扱うAIは、一般的に自社管理下の環境で運用することが望まれます。また、製造現場ではリアルタイム性を重視してエッジ環境でAIを動かしたいケースもあります。

　さらに、データ所在地に関する法規制やGPUコスト、ネットワーク遅延なども、AIを実行する場所を左右する重要な要素です。

　企業は「全てを1つのクラウドで動かす」のではなく、「用途に応じて最適な環境を選択する」ことが求められるようになっています。AI時代のインフラ設計は、クラウドへの集約ではなく、複数の環境を統合的に管理する方向へ進み始めているのです。

分散型AI基盤が新たな前提になる

　こうした変化を踏まえ、多くの企業が注目し始めているのが、分散型AI基盤です。

　分散型AI基盤とは、パブリッククラウドだけに依存するのではなく、オンプレミスやプライベートクラウド、エッジ環境などを組み合わせ、それぞれの特性に応じてAIを実行するアーキテクチャです。例えば、公開可能なデータを使った推論はパブリッククラウドで実行し、機密情報を扱うAIはオンプレミスで運用する。あるいは、製造現場ではリアルタイム性が求められる推論をエッジで処理し、高度な分析だけをクラウドで実施するといった構成です。

　重要なのは、分散型AI基盤はインフラを複雑にすることが目的ではないという点です。企業が求めているのは、変化する規制や技術に合わせて最適な環境を選択できる自由と、その選択を自らコントロールできる主権です。そのためには、オンプレミスや複数のクラウドを個別に管理するのではなく、ベンダーロックインを避けながら、一貫したポリシーのもとで統合的に運用できる共通基盤を備えることが重要になります。AI時代に求められるのは、環境を増やすことではなく、異なる環境を1つのアーキテクチャとして管理できることなのです。

モデルが増えるほど重要になる「管理する力」

　AIモデルの競争は今も続いています。しかし長期的には、多くのAIモデルは一定程度コモディティ化していくと考えられます。

　実際、数年前まで一部の企業しか利用できなかった高性能な大規模言語モデルは、現在では幅広い企業が利用できるようになりました。オープンソースモデルも急速に進化しており、用途によっては商用モデルと遜色ない性能を発揮する場面も増えています。さらに、新しいモデルは次々と登場します。数カ月前まで最先端だったモデルが、短期間で一般的な選択肢になることも珍しくありません。

　もちろん性能差がなくなるわけではありません。むしろ重要になるのは、業務内容やコスト、セキュリティ、規制要件に応じて複数のモデルを適切に使い分ける能力です。営業支援には特定のモデル、開発支援には別のモデル、機密情報を扱う業務にはオンプレミスで動作するモデルを利用する、といった運用は今後さらに一般化していくでしょう。

　つまり、企業の競争力は「どのモデルを導入したか」ではなく、「複数のモデルをどのように管理し、自社データや業務へ組み込むか」に移っていきます。そして、その役割を担うのがコントロールプレーンです。

AI時代の競争力を支えるコントロールプレーン

　企業がAIを本番業務で活用するためには、モデルを導入するだけでは十分ではありません。

　複数のAIモデル、複数のデータソース、複数の実行環境を、企業のルールに従って安全かつ効率的に運用する仕組みが必要になります。その制御層となるのが、コントロールプレーンです。

　コントロールプレーンは、AIモデルやデータ、利用者を統合的に管理し、企業が求める主権と統制を実現するための管理基盤と言えます。その役割は主に4つあります。

• ガバナンス：AIがどのデータを利用し、どのような回答や判断をしたのかを把握できなければ、本番業務で安心して利用することはできません。監査対応や説明責任を果たすためにも、AI利用の可視化は欠かせません
• セキュリティ：AIは企業内のさまざまなデータにアクセスします。そのため、利用者や業務ごとに細かなアクセス権限を設定し、情報漏えいを防ぐ仕組みが必要になります
• 業務コンテキストの管理：AIの回答品質はモデル性能だけでは決まりません。企業独自の知識や業務ルールを適切に参照できるかどうかが、実用性を大きく左右します。そのため、RAG（検索拡張生成）による知識検索やデータ基盤との連携を通じて、企業固有の文脈を必要な場面でAIに提供できる仕組みが重要になります
• データとAIの統合管理：企業には複数のデータソースやAIモデルが存在します。それらを個別に運用するのではなく、1つの管理基盤から統合的に制御できることが、運用効率と将来の拡張性につながります。

　こうした機能は、どれもAIモデル単体では実現できません。だからこそ、AI基盤にはモデルの上位に位置する制御層が必要になるのです。

AI基盤に求められる3つの条件

　コントロールプレーンを中核とするAI基盤には、少なくとも3つの条件が求められます。

• 持続可能性：AI活用はPoCで終わるプロジェクトではありません。利用者や対象業務が増えるほど、推論コストや運用負荷、モデル更新、性能評価、セキュリティ対策など継続的な管理が必要になります。また、AIモデルやデータ基盤、クラウドサービスは今後も急速に進化していくため、特定ベンダーに依存するのではなく、オープンソースやオープン標準を活用した相互運用性を確保し、必要に応じて最適な技術へ柔軟に移行・拡張できることも重要です。企業は短期的な成果だけでなく、長期的に維持・改善できる運用基盤を備える必要があります
• 主権：企業は、自社データをどこで処理し、誰が利用し、どのAIモデルを適用するのかを主体的に決定できなければなりません。法規制や社内ポリシーが変化しても、自らの意思で運用方針を選択できることが重要です。同時に、ワークロードやAIモデルを必要に応じて切り替えられる柔軟性を確保し、1つのクラウドやAIサービスに過度に依存しないことが、AI主権を維持する上で重要になります
• 統制：AIの利用状況を継続的に監視し、問題が発生した際には原因を追跡し、改善できる仕組みが不可欠です。どのモデルが、どのデータを利用し、どのような結果を出したのかを把握できて初めて、企業はAIを安心して業務へ組み込むことができます。データリネージやアクセス制御、監査ログ、モデル評価などを一貫して管理できるコントロールプレーンが、その基盤となります

　これら3つを備えた制御層こそが、AI活用を一時的な実験から、持続的な競争力へと変えていく基盤になります。

AI時代の競争力は「統制されたAI基盤」で決まる

　生成AIの登場によって、企業ITの競争軸は大きく変わりました。当初はAIモデルそのものの性能が注目されていました。しかし企業利用が本格化するにつれ、本当に重要なのは、AIを継続的に運用できる基盤であることが明らかになっています。

　本連載では、第1回でデータ基盤、第2回で推論設計、そして今回は主権と統制を取り上げました。これらはそれぞれ独立したテーマではありません。信頼できるデータがあり、それを効率よく活用する推論基盤があり、さらに安全かつ継続的に運用するための統制がある。3つがそろって初めて、AIは企業価値を生み出す基盤になります。

　今後、AI時代の競争の軸は、モデル性能から、データとガバナンスを中核とするプラットフォームアーキテクチャへと移っていきます。どのデータを活用できるのか、どこでAIを動かすのか、そして、それらをどのように管理し変化する技術や規制へ柔軟に対応できるのか。変化し続けるAIを、安全かつ柔軟に活用できるデータ基盤と運用基盤、そしてそれらを支えるコントロールプレーンを備えた企業が、持続的な競争力を獲得していくことになるでしょう。

著者プロフィール：吉田 栄信（よしだ えいしん） Cloudera株式会社　ソリューションズ エンジニアリング マネジャー

クラウド、ビッグデータ、データガバナンス、PaaS、Webアプリケーションなどのアーキテクトとしての設計や実装の経験を持つソリューションエンジニアです。

過去にはヒューレット・パッカード エンタープライズでビジネス・ディベロップメント、DXCテクノロジー・ジャパン株式会社でチーフ・テクノロジストの職務を担当し、2019年6月にCloudera株式会社に入社しました。

Cloudera：https://jp.cloudera.com/