企業のAI戦略は大きな転換点を迎えている。セキュリティ対策やコストの課題を解決する「ローカルAI」に注目が集まる中、卓上サイズの筐体にAI性能を凝縮した「NVIDIA DGX Spark」が登場した。その実力と検証で見えたパフォーマンスの全貌に迫る。

　生成AIのビジネス実装が進む一方で、クラウド型のAIサービスを活用するには依然として高いハードルが存在している。その最たるものが、セキュリティとコンプライアンスの課題だ。NTTPCコミュニケーションズ（以下、NTTPC）エンジニアの小野雅也氏は、次のように指摘する。

NTTPCコミュニケーションズの小野雅也氏（AIソリューション事業部 ビジネスデザイン部門 HPCエンジニアリング部）

　「高機能なクラウドモデルは多数ありますが、情報流出リスクや運用要件の課題が立ちはだかり、導入が困難なケースがあります。クラウドモデルは従量課金制のため、予算の算出が難しいという面もあります」

　事業者の都合による突発的な仕様変更やサービス終了によって、構築したワークフローが機能しなくなるリスクもはらんでいる。これらは事業継続計画（BCP）の観点からも大きな懸念事項だ。

　こうしたセキュリティ対策やコストの要件、サービス継続性の課題を解決する手段として、「ローカルAIモデル」が有力な選択肢として浮上している。ローカルAIモデルをオンプレミス環境で実行し、データ処理を社内で完結させることで、情報漏えいリスクを根本から排除できる。オープンソースモデルを活用すれば、クラウドの制約に縛られないAI開発も可能だ。NTTPCエンジニアの塩田晃弘氏は、その優位性を次のように語る。

　「オンプレミス環境でローカルAIを稼働させる利点は、AIモデルの運用における主権を自社で担保できることです。ハードウェアの導入費と電気代のみで運用可能で、長期的なコスト管理も容易です。近年はオープンソースのLLMも飛躍的に進化しており、セキュアで高性能なAI環境を自社内に構築することが現実的になってきています」

ローカルAIモデルを身近な存在に

　ただし、オンプレミスでAI基盤を構築するには大規模なGPUサーバの導入コスト、電力や空調などデータセンターの設置要件、高度な構築作業など大きなハードルがあった。こうしたハードルを下げるソリューションとして注目されているのが、NVIDIAの小型スーパーコンピュータ「NVIDIA DGX Spark」だ。

　NVIDIA DGX Sparkは、幅150×奥行き150×高さ50.5ミリ、重量約1.2キロというコンパクトな筐体（きょうたい）に、高いAI処理能力を凝縮した製品だ。「NVIDIA GB10 Grace Blackwell Superchip」とArmベースで20コアの「NVIDIA Grace CPU」を搭載し、FP16で最大約250TFLOPS、FP4で最大1PFLOPSのパフォーマンスを実現している。

デスクに置けるサイズながら、AI処理能力に優れたNVIDIA DGX Spark

NTTPCコミュニケーションズの塩田晃弘氏（AIソリューション事業部 ビジネスデザイン部門 HPCエンジニアリング部）

　AI開発に最適化された「NVIDIA DGX OS」や各種フレームワークがプリインストールされており、セットアップ作業を大幅に省ける。塩田氏によると、従来は環境構築に半日以上かかることがあったのに対して、従来よりも環境構築の手間を大きく減らせるという。

　「NVIDIA DGX Sparkは、CPUとGPUが128GBのメモリを共有するユニファイドメモリを採用しています。搭載メモリはLPDDR5で、最大帯域は273GB/sと公称されています。従来のGPUカードで一般的に使用されるGDDR6Xなどに比べて帯域がやや劣るため、メモリ速度がボトルネックになる可能性が高いという面もあります。とはいえ低コストで気軽に使い始められるため、PoCや開発用途、少数ユーザーでの利用に特に適した製品と言えるでしょう」（小野氏）

NVIDIA DGX Sparkのポテンシャルを検証

　NVIDIAエリートパートナーであり、2025年には日本国内で最高位の「Best NPN of the Year」を受賞したNTTPC^※は、GPUサーバの提供やビジネス活用シーンを想定した検証作業を実施している。カタログスペックだけでは見えてこないNVIDIA DGX Sparkのパフォーマンスやネットワーク最適化のノウハウなどを蓄積し、検証結果を公開することで顧客のAI基盤構築をサポートしている。

※NVIDIA、「NVIDIA Partner Network Award 2025」を発表、NTTPCが「NVIDIA Partner Network Award 2025」において『Best NPN of the Year』を受賞

約1200億パラメーターのLLMが秒速40トークンで“爆速”

　NTTPCが検証を行ったのが、NVIDIA DGX Sparkを用いたAIエージェントの構築と、大規模言語モデル「gpt-oss-120b」のローカル実行だ。検証はオープンソースの開発プラットフォーム「Dify」を利用して、インターネット検索やRAG（検索拡張生成）機能を備えたチャットbotシステムを構築した。

　NVIDIA DGX Sparkで約1200億パラメーターのgpt-oss-120bを動かしてみた結果、毎秒約40トークンの生成速度を記録した。これは業務でもストレスなく利用できるレベルだろう。回答精度も、ナレッジベースの検索や文書の要約などであれば十分な精度を発揮することを確認できた。

チャットbotが動作する様子（提供：NTTPC）《クリックで拡大》

RAGデータを参照する様子（提供：NTTPC）《クリックで拡大》

　「NVIDIA ConnectX-7 SmartNIC」を使用してNVIDIA DGX Sparkを2台接続した構成での検証も実施した。塩田氏は「2台を単純につなぐだけでなく、通信バッファーやネットワーク設定をチューニングしたところ、単体動作時と比較して処理速度は約1.5倍向上しました」と説明する。

2台接続した処理速度（提供：NTTPC）《クリックで拡大》

「4K動画生成」も可能にする統合メモリの威力

　さらに、オープンソースの動画生成モデル「LTX-2」を用いた動画生成も検証した。動画生成タスクはVRAMを大量に消費する過酷なワークロードだが、ここでも128GBの統合メモリの優位性が発揮された。

　「LTX-2モデルを使って約10秒間の動画を生成できました。生成した映像の品質は高く、企業の短い広告素材やプロモーション映像として、そのまま使えるのではと思うほどの仕上がりになりました」（塩田氏）

LTX-2で動画を生成する（提供：NTTPC）《クリックで拡大》

　こうした検証作業を通じて、NTTPCはNVIDIA DGX Sparkが「AI基盤として高い実用性と汎用（はんよう）性を備えていることが立証された」としている。小野氏は推奨するユースケースについて次のように述べる。

　「プロモーション素材の作成や機密ファイルを安全に読み込ませるチャットbotなど、セキュリティ要件が厳しくクラウドにデータをアップロードできない用途に有用だと思います。データセンターのラックに導入する高性能サーバには及ばない部分はありますが、AI活用のPoC環境としては極めて有用と言えるでしょう」

NTTPCとSB C&Sの連携でローカルAIの価値を最大化

　日本市場においてNVIDIA DGX Sparkを迅速かつ安定的に届けるため、NTTPCはSB C&Sと密接に連携している。SB C&Sの製品調達力とNTTPCの技術インテグレーション力が融合することで、顧客に大きな価値をもたらすとしている。

　SB C&Sは、サードパーティーのSparkを含むOEM製品を幅広く取り扱っている。OEMのDGX Sparkはメーカー独自のサポートサービスが付帯する他、ストレージ容量が選択できるなども違いがあるため、顧客は要件に合わせて「最適解」の製品を選択できる。SB C&Sの潤沢な在庫と整備された調達体制は、開発スピードを重視する企業のニーズに迅速に応えられる大きな強みになっている。

　NTTPCも、企業がより直感的かつスムーズにローカルAI環境を導入し、早期に効果を得られるように「即稼働」をコンセプトとしたNVIDIA DGX Spark×生成AIパッケージ型サービスを拡充している。

　「お客さまの環境構築の手間を削減するため、生成AIを活用したチャットボットの利用に必要なツールをあらかじめNVIDIA DGX Sparkにセットアップした状態で納品する統合パッケージを提供します。一般的にRAG構築は半年程度かかりますが、本パッケージはそうした初期構築の負荷を抑えて、短期間で導入可能です。これによってクラウドにアップできない契約書や技術資料などの文書を、外部ネットワークから遮断された閉域環境のままで活用できます。AI専任のエンジニアがいない企業でも煩雑なセットアップ作業に悩まされず、納品されたその日から高度なローカルAIシステムを業務に組み込めるようになります」（小野氏）

　今回紹介した技術検証についても、次の展開を見据えている。

　「今後はテキストや映像の生成に限らず、音声対話モデルの動作検証も予定しています。NVIDIA DGX Sparkでより自然な音声インタフェースを備えたAIシステムを構築して、可能性を探りたいですね」（塩田氏）

　最後に小野氏は、NVIDIA DGX Sparkを検証してきた経験を踏まえてAI推進担当者やIT製品選定を担う読者に次のように提言する。

　「AIの導入自体を目的化するのではなく、自社の課題を解決するための手段としてAIを活用することが最も重要です。セキュリティ対策やコストなどの要件に合ったAI環境を選ぶ中で、オンプレミスAIのファーストステップとしてNVIDIA DGX Sparkは間違いなく適切な選択肢の一つになり得ると思います」

　テクノロジーへの深い理解と現場に寄り添うインテグレーション力。NTTPCとSB C&Sが示す道筋は、企業が「AIの主権」を自らの手に取り戻すための大きな一歩となるに違いない。

提供：NTTPCコミュニケーションズ株式会社、SB C&S株式会社
アイティメディア営業企画／制作：ITmedia AI＋編集部／掲載内容有効期限：2026年5月7日