PR

生成AIインフラ、結局どうすればいい？　日本企業の課題と解決策をNVIDIAに問う

生成AIの活用は検証から本番運用のフェーズに移っている。投資判断を迫られながら一歩を踏み出せない企業に応えるのが、NVIDIAの提唱する「AIファクトリー」だ。インフラを「知能の生産拠点」と定義する戦略の本質とは。

　生成AIの活用は、検証段階から本番運用のフェーズへ移りつつある。本格的な投資判断を迫られる企業が増える中で、現場は「何からそろえればいいのか」と戸惑い、経営層は「投資に見合うインパクトを得られるのか」という疑念を拭えない。ハードウェアの議論が先行してソフトウェアの価値が過小評価されたり、接続技術を妥協で済ませたりと投資判断の土台そのものが揺れている企業も多い。

　こうした迷いに応えるために、NVIDIAは「AIファクトリー」を提唱している。インフラ選定から運用まで一貫した設計指針で進めることによって、AI投資をビジネス価値に変えるための枠組みだ。

　AIファクトリーがどのように企業の課題を解決できるのか。エヌビディアでAIファクトリー事業の責任者を務める石田大樹氏と、大規模AI基盤の実装や導入支援に携わるソリューションアーキテクトの木戸大二郎氏に、ITmedia AI＋編集長の井上輝一が聞いた。

※以下、敬称略。

AIインフラは「コスト」から「生産設備」へ

井上：　2026年3月の「NVIDIA GTC 2026」で、ジェンスン・フアンCEOは「AIのインフラがお金を生み出す時代になった」と述べました。AIインフラを取り巻く議論はどのように変化していますか。

石田：　従来のAIインフラは主に基盤モデルを「学習」させるための、いわば研究開発的な投資対象として語られてきました。しかし現在は、作ったモデルをいかに業務に組み込み、価値あるアウトプットを出せるかという「推論」のフェーズに移行しています。

　モデルの精度が高まりプラットフォームやソフトウェアも進化して、「AIを使えばこれができる」という用途が明確になりました。つまり、推論を使ってどれくらいの収益を生むビジネスを生み出せるかという実利のフェーズに差し掛かっています。

木戸：　AIインフラの性能を測る指標も、FLOPS（演算速度）だけでは語れなくなってきました。これからのAIビジネスで重要な指標はトークンをどれだけ効率良く生み出せるかです。トークンというインテリジェンスを生成するコスト、つまり“トークン原価”をどこまで下げられるかが利益率に直結します。

　特にオンプレミスでAIインフラを構築する場合、1ワット当たりの消費電力でどれだけのトークンを生成できるかがシビアに問われます。同じ精度の回答でもシステムの最適化によって消費電力を10分の1に抑えられれば、それは競争優位性になります。この指標はGPU単体では決まらず、メモリ、ネットワーク、ストレージ、冷却設備まで含めたシステム全体の統合設計が勝敗を分けると言えます。

日本企業の投資判断を阻む3つの壁

井上：　世界が推論による収益化に突き進む中で、日本企業の多くは慎重な構えを崩していません。なぜ投資の決断を下すのがこれほど難しいのでしょうか。

石田：　担当者の方と対話すると、日本企業特有の3つの壁があると感じます。

　1つ目は、投資と変革の「卵と鶏」の構造です。GPUに投資しても業務プロセスが変わらなければ効果が出ないけれど、投資をしなければ検証ができず変革のイメージも湧きません。このジレンマで動けなくなっている企業が多いですね。

　2つ目は、既存業務のプロセスを変えることへの心理的・構造的な抵抗感で、これがAIによる抜本的な効率化を阻んでいると感じます。

　3つ目は、意思決定のプロセスです。AI導入は事業部門とIT部門をまたいだ全体最適が不可欠ですが、日本ではボトムアップのPoC（概念実証）が多く、経営層が責任を持ってトップダウンで決断を下すケースが少ない印象です。

井上：　ROI（投資対効果）の算定も、企業を悩ませる要因になっていますよね。

木戸：　その通りです。“キラーアプリ”がない中で投資の根拠を示したりオンプレ、クラウドのコストを比較したりするだけでは、AIインフラの本当の価値は見えてきません。

　しかし視点を変えれば、「守り」が「攻め」に転じるポイントがあります。例えば、機密性の高いデータを外に出せないという「ソブリンAI」の要件がある場合、オンプレミスでリソースを持つことは、コストではなく企業価値や知財を守るための「攻めの投資」になります。自社固有のデータを材料に、自社だけのトークンを量産してビジネスに生かす、この「知能の自社生産」がROIを改善させる鍵なのです。

AIファクトリーは「知能」を量産する拠点

井上：　そこでNVIDIAが提唱しているのがAIファクトリーですが、従来のデータセンターとの違いを教えていただけますか。

石田：　従来のデータセンターが、データを預かり保管する「倉庫」や「コストセンター」であったのに対して、AIファクトリーは「富」を生み出す生産拠点です。私たちはここを、電力と情報を原材料として投入して、付加価値の高い製品である「知能（＝トークン）」を出荷して収益に変える場所、と定義しています。だから「ファクトリー（工場）」なのです。

　AIファクトリーを機能させるためには、「5 Layer AI Cake」（5層のAIケーキ）を連携させる必要があります。

井上：　それはどのようなものでしょうか。

石田：　最下層に電力網や冷却システムを含む「ENERGY（エネルギー）」があり、その上に「CHIPS（チップ）」、さらにネットワークなどを統合した「INFRASTRUCTURE（インフラ）」、その上で動く「MODELS（モデル）」、そして最上層に「APPLICATIONS（アプリケーション）」が載る構成です。

　NVIDIAはこれらをバラバラではなく、AIファクトリーとして全体を最適化して提供しています。

「1年で旧式化？」「ベンダーロックインが心配」への解

井上：　これほど密接に統合された環境を構築するとなると、GPUの進化の速さが懸念です。導入直後に陳腐化して投資が無駄になるのでは、という企業の不安にはどう応えますか。

石田：　そこは誤解されやすい点です。新世代が出ることは、旧世代が使えなくなることではありません。

　私たちは「ワン アーキテクチャ」という戦略を掲げています。ソフトウェア基盤「CUDA」を共通の土台とすることで、新旧どの世代のGPUでも同じアプリケーションが動作する仕組みです。

　最新のGPUが最先端の推論ワークロードを担う一方で、前世代のGPUはファインチューニングや小規模なデータ分析に回せます。クラウドプロバイダーやスパコンの世界では、数世代前のGPUが数年にわたって活用されるケースは珍しくありません。スクラップ・アンド・ビルドではなく、ソフトウェア資産を継承しながら計画的に生産能力を積み上げていけるのが、NVIDIAのエコシステムにおける投資保護の在り方です。

井上：　AIインフラをすべてNVIDIAでそろえると、いわゆるベンダーロックインの状態になるのではという懸念についてはいかがでしょうか。

石田：　私たちはAIファクトリーをNVIDIAの商標ではなく、社会に普及した一般的な概念にしたいと考えています。私たちが提供するのはプラットフォームであり、サーバやネットワーク機器ベンダー、OEMパートナー、SIerなど200社（2026年6月時点）を超えるパートナーさまが参画して巨大なエコシステムを形成しています。

木戸：　こうしたエコシステムを支える取り組みの一つが、リファレンスアーキテクチャです。リファレンスアーキテクチャは、お客さまが「この構成を選べば意図した性能が確実に担保される」という安心感を得ていただくための指針です。

　この指針に多くのエコシステムパートナーさまが参画しており、NVIDIAのプラットフォームを選ぶことは、むしろ多種多様なベンダーの技術を一貫したアーキテクチャ上で自由に組み合わせられる選択肢の広さがあります。日本のお客さまとリファレンス構成の在り方について議論し、それを反映させて構成を見直すといったことも実際に行っています。

製造業の暗黙知を形式知に

井上：　すでに日本でもAIファクトリーの事例があると伺いました。

石田：　ある製造業のお客さまは、ベテランの熟練作業員が持つ暗黙知をAIに学習させて、共通のナレッジ（形式知）へと変換しようとしています。危険を伴う作業現場の安全管理を、AIが映像から瞬時に判断して指示を出すといった仕組みです。

　こうした現場の知恵は企業にとって機密事項なので、契約やガバナンスの面からクラウド上にアップできません。そこでAIファクトリーに自社の「素材（データ）」を投入して、独自の「知能（トークン）」を量産しています。

井上：　データを精査して独自の知能に変える環境を自前で持つことが、競争力の源泉になるわけですね。

木戸：　おっしゃる通りです。そして意思決定がなされた後は、いかに迅速にAIファクトリーを構築して「知能（トークン）の生成」を開始するかが競争力の鍵になります。NVIDIAは検証済みの構成をリファレンスとして提供することで、企業が最短でトークン生成にたどり着けるようサポートしています。

自社で「知能」を生産するための第一歩

井上：　AIインフラの構築を検討している企業は、何から着手すべきでしょうか。

石田：　「変化を恐れず決断すること」と「材料を丁寧に精査すること」がポイントです。自社の強みが何でどんなデータがあるのか、ここを明らかにしないままで「とりあえずAIファクトリーを使おう」と進めてもうまくいきません。自社の素材（データ）を磨き、どのようなアウトプットを目指すのかというゴールを明確にすることが重要です。

　いかに少ない計算資源でやりくりするかといったソフトウェアの最適化は重要ですが、物理的なインフラ性能が不足していれば、出せる成果には限界があります。まずは「自分たちの手でインテリジェンスを作るんだ」という強い意志を持っていただきたいですね。

木戸：　NVIDIAがやるべきことはNVIDIAがやる、それ以外はエコシステムにお任せする──それが私たちのスタンスです。AIファクトリーを構成するデータセンター設備からサーバ、ネットワークまでNVIDIAのアーキテクチャを軸に据えていただければ、各分野のパートナーさまがリファレンスに基づいて自律的にお客さまを支援できる体制を整えています。こうしたエコシステムを活用して、安心してAIファクトリーへの投資に踏み出していただければうれしいですね。