PR

「GPUはあるのに成果が出ない」──原因はストレージにあり？ オンプレ AI 基盤をマルチテナントで賢く共有

「高価なGPUを買ったのに成果が出ない……」。AI基盤を構築する動きが広がり、そんな悩みを抱える人もいるのではないか。その原因の一つがデータストレージだ。GPUのマルチテナント運用においても重要な存在であり、もはやAIインフラには欠かせない要素になりつつある。

　セキュリティやコストの観点から、オンプレミスにAI基盤を構築する動きが広がっている。高価なGPUを確保して、いざAI開発！……と励んでみたものの、思ったような成果が出なかったと落胆する場合がある。その原因の一つが、データストレージだ。

　高性能なGPUを確保しても、ストレージの性能が追い付いていなければ高負荷のAI処理に対応できず、GPUが“宝の持ち腐れ”になってしまう。実際、データストレージがAIプロジェクトの思わぬ落とし穴になっているケースは非常に多いという。

　また、限られたインフラとGPUリソースを複数の部門・プロジェクトで効率的に共有し、利用率を高めることが必要となっており、GPU基盤のマルチテナント化が急務となっている。

　データダイレクト・ネットワークス・ジャパン（DDN）のAI/HPC向けストレージ「EXAScaler」は、これらのニーズに応えられる。この記事では、検証拠点「C&S AI INNOVATION FACTORY」（AIF）を運営するSB C&SとDDNの両社に、AIインフラにおけるストレージの重要性と、共有を前提としたAI基盤の考え方を聞いた。

ボトルネックはGPUではなくデータ基盤かも？

　「AI導入を検討している企業の多くはGPUやLLMに注目しがちですが、実際にはデータ基盤にボトルネックがあるケースが多いのです」。SB C&Sの村松貴耶氏はこう指摘する。

　学習でも推論でも、AIの処理は大量データへの同時アクセスを伴う。ストレージからのデータ転送が追い付かなければ、いくら高性能なGPUでも待ち時間が生じてしまう。このような見落としは設計段階から始まっている場合がある。

　DDNの福井秀明氏は「Reference Architectureへの準拠は、AI基盤構築の重要な出発点です。一方、必要なストレージ性能はモデルやデータセット、ワークロードによって異なり、GPU数だけでは導入前に必要な性能を正確に見極めることは容易ではありません」と話す。

　「そのため私たちは、NVIDIA社が推奨する指標よりも性能面で余裕を持たせたストレージ構成を導入した方がいいとお話しています。導入後にボトルネックに気付くのでは遅いからです」

「共有するAI開発環境」の考え方

　もう一つの課題が、導入したGPUとストレージを複数部門でどのように使い分けるかだ。企業でAI開発環境を共有する場合、一部の利用者が占有してしまって他の利用者が利用できなくなる事態を防ぐ必要がある。

　1ノード8基搭載のGPUならば、1人で占有せずに4人で2基ずつ分け合って効率良く使う……などのマルチテナント運用の考え方だ。ストレージ側でも、利用者ごとにアクセス領域・権限・容量を論理的に分離する必要がある。

　オンプレミスのAI基盤は設置スペースや消費電力などに制約がある他、コストの面からも利用者ごとに機材を用意するのは現実的ではない。SB C&Sの間山翔宇氏は「マルチテナント運用を前提とした設計がAI基盤全体の利用効率を左右します。基盤全体は共有しながら、利用者ごとにデータを論理的に分割する仕組みが重要です」と説明する。

　EXAScalerは、HPC分野で約20年使われてきたオープンソースの並列分散ファイルシステム「Lustre」をベースにしたストレージ製品だ。「OST」というデータを格納する箱を多数並べ、複数の利用者のI/Oを分散して書き込む。そのため、I/Oの入り口が1カ所に集中する一般的なNASと違って処理がぶつからない。ファイルの所在を管理するメタデータの処理も分離している。

　一方でLustreは、本来の性能を引き出すには設計やチューニングの知見が求められる。DDNは製品化とサポートを通じてその部分を引き受けており、利用者はファイルシステムを意識せずに使える。

　多くのストレージ製品は、論理ドライブを使ってSSDを物理的に切り出す方式を採る。EXAScalerは、ディレクトリ単位で領域を分割する。切り分けたディレクトリは他者から見えないためセキュリティを担保可能だ。個別に容量の上限を設定できるクオータ機能も備える。これにより、特定の利用者やプロジェクトがストレージ容量を使い切り、他者が利用できなくなるといった事態を確実に防げる。

　「一般の利用者から見れば、Linuxの一般的なファイル操作の延長で利用できます。Lustre特有の設計やチューニングは、DDNの製品化やサポートによって複雑性が軽減されています」（間山氏）

Kubernetesの下でストレージをどう分離するか？

　マルチテナント運用の実装先として広がっているのが、オープンソースのコンテナ管理ソフト「Kubernetes」だ。近年のLLMを組み込んだアプリケーションはコンテナ化して運用する手法が大半で、DDNの顧客も既に約3割がKubernetesを利用しているという。

　ただ、Kubernetesだけでマルチテナント運用は完結しないと間山氏は言う。「KubernetesのNamespaceやRBACによってコンピュート側の管理境界は作れますが、それだけで共有ストレージ上のデータの可視範囲や容量まで自動的に分離されるわけではありません。他テナントへの誤アクセスを防ぐためにも、ストレージ側にもテナントを意識した分離が必要です」

　DDNはEXAScalerとKubernetesをつなぐCSIドライバを提供している。Kubernetesの標準操作だけでストレージを簡単にマウントできる。コンテナ経由でアクセスした場合でも、物理サーバから直接アクセスした場合と同等のパフォーマンスを実現しているという。

　「Kubernetesの利用者からすると、CSIがあるのはそもそも大前提だと思います。その上で問われるのが容量やセキュリティ、性能をどのように担保するかです」（福井氏）

推論の時代でも問われる「学習データはどこにあるか」

　AI活用のフェーズは、学習から推論やRAG（検索拡張生成）へと本格的に移りつつある。SB C&SやDDNにも推論に関する問い合わせが増えているという。推論でもストレージは重要な役割を果たす。

　LLMのオンライン推論（利用者からの要求にリアルタイムで処理する方式）は、モデルをGPUメモリに展開して処理するため、モデルのロード後はストレージI/Oへの依存度が相対的に低い。一方で、推論の元となる学習データやモデルなどはストレージに格納されている。モデルの読み込みや切り替え、推論ノードの増減が発生する場面では、ストレージからGPUへデータを移す速度が、そのまま応答を始めるまでの時間に影響する。

　画像や映像、音声をまとめて処理するバッチ推論では、複数のGPUノードが大量のデータを同時に読み込み、結果を書き戻すため、学習と同様の高い並列I/O性能が要る。RAGはストレージへの依存がさらに大きい。「RAGでは問い合わせに回答する処理だけではなく、前段にある文書の収集や変換、埋め込みの生成、インデックスの更新で大量のデータを読み書きします」（間山氏）

　EXAScalerはデータを並列分散して保持するため、複数のGPUノードから大量の読み込み要求が発生しても、高い並列性能を発揮できる。この特性を生かし、学習から推論まで同一のストレージ基盤上でデータやモデルを共有することも可能だ。データロードの時間を短縮できる他、大容量の学習済みモデルなどを別のストレージへ物理的に移動させる必要がなくなり、AIワークロード全体の効率化にもつながる。

カタログでは判断できない部分をAIFで検証

　ストレージの例でも顕著だが、AI開発環境は実際に試してみないと分からないことが多い。SB C&Sは、検証不足による失敗を防ぐためにAIの検証環境としてAIFを提供している。NVIDIAの最新GPUサーバや高速ネットワーク、EXAScalerなどのストレージの実機もそろえている。サンプルデータや稼働予定のアプリケーションを持ち込めば、ボトルネックを洗い出せて導入後の手戻りを減らせる。

　間山氏は、マルチテナント運用を検討しているならぜひAIFを利用してほしいと話す。「マルチテナント運用には、カタログスペックだけでは判断できない部分が多くあります。1つのジョブで十分な性能が出ても複数の利用者が同時に使うとどうなるか、論理分割が実際にできているかなどをご自身で検証していただけるのが大きな利点です」

　講師のサポート付きで実機を操作するハンズオンも用意している。間山氏は「検証とハンズオンを組み合わせることで、AI基盤を設計・運用できる人材の育成にもつながります」と話す。AIFは今後も規模を拡張する予定で、クラスタ管理ソフトとの連携も検証する。

　こうした検証環境や商品供給を支えるのが両社の協業だ。SB C&SはAI・HPC市場での事業拡大への貢献が評価され、「DDNパートナーサミット2026」においてStrategic Partnership Awardを受賞。独自のスキームで製品の安定供給を続けており、今後さらなる共同技術検証も計画している。

　村松氏は最後にこう締めた。「AIを成功に導く鍵は、GPUやネットワーク、ストレージを個別に選ぶのではなく、インフラ全体を最適化することです。DDNの製品は、高性能なストレージを通じてGPUの性能を最大限に引き出し、AI基盤の価値をさらに高められるソリューションです。AIインフラの構築や刷新を検討する際は、ぜひ気軽にSB C&SとDDNにご相談ください」