NVIDIA製を“28倍”効率化 生成AI時代のゲームチェンジャー「サンバノバ」の正体：「サンバノバ」の正体【前編】（2/2 ページ）

[河嶌太郎, 今野大一，ITmedia]

NVIDIA製品よりも低コストにできる理由

――NVIDIAとChatGPT、いずれも導入コストが高くなっている背景には、企業間での競争が本格化していない現状があるのでしょうか。

　ChatGPTに代表されるプロダクションは、ちょうど後続のものがたくさん出てきている段階だと思います。これまでの5年間は、比較的ゆっくりな形で製品が研究開発されてきました。これから多くの企業が製品段階に入っていくと、コスト面での競争は避けられないでしょう。

　ChatGPT以上に、NVIDIAはもう何年も前から“一強体制”であり、われわれもとても大事なプレーヤーとして非常に高く評価しています。一方ユーザーの中には「サンバノバのソリューションが最高だ」と言ってくださる余地があると確信しています。

　その余地は、特にLLMが大きくなればなるほど大きくなると考えています。LLMを運用するためにはスーパーコンピュータをあらゆるところで作るわけですが、その上で費用対効果の考え方は欠かせないと思います。

　サンバノバのソリューションでは、本体の価格から消費電力をはじめとするランニングコストまで、非常に効率的にコスト削減が可能です。NVIDIAの製品とも互換性がありますので、さまざまなところでサンバノバの製品にリプレース（代替）できると自負しています。

――なぜサンバノバの製品だと、ここまでのコスト削減が可能なのでしょうか。

　SN40Lがわれわれの新製品で、サンバノバの第4世代のチップになっています。特徴は、プロセスノードという設計回路の太さを5ナノメートルへと微細化したことによって、集積トランジスタ数を向上しました。これにより3層のメモリ構造を実現し、広帯域メモリ（HBM）は64ギガバイト、そして大容量メモリ（DDR）は1.5テラバイトを搭載しています。このあたりのチップ環境は、NVIDIAの製品とは大きく異なります。

　もともとは画像をリアルタイムで演算するGPUとして開発されたNVIDIAの製品に対し、われわれの製品はRDUと呼ばれる再構成可能なデータフローアーキテクチャを採用し、生成AIで一般的に活用されているLLMなどを処理するのに最適化しています。サンバノバではこうしたハードを単体で提供しているのではなく、ソフトやシステムと統合して管理できる「DataScale」といったラックレベルシステムや、「SambaFlow」というソフト開発ツールも提供しています。

　さらに、この統合システムに最適化された事前学習済の基盤モデルを追加した企業向け生成AIプラットフォーム「SambaNova Suite」も提供し、NVIDIAの同等製品「NVIDIA DGX H100」に対し、TCO（Total Cost of Ownership）28倍減という大幅効率化を実現しています。

――既にソフトバンクが開発を進める生成AIにも、サンバノバ製品の採用が決まっています。

　ソフトバンクが進めるLLMの基盤（ファウンデーション）モデルにおいて、弊社はパートナーシップを締結しています。この基盤モデルという考え方は、スタンフォード大学で始まったものです。われわれサンバノバは、6年前にスタンフォード大学の関係者を中心に立ち上がりました。当時、基盤モデルを理解する人はほとんどいませんでした。

　あれから6年、世界の多くの人たちが基盤モデルを理解し、世界的にも採用され始めてきています。中でもソフトバンクグループという世界でも大手の企業と、基盤モデルでパートナーシップを結べたことを、とてもうれしく思っています。

――日本ではNECが基盤モデルを開発しています。日本市場の可能性についてどう見ていますか。

　非常に興奮しています。われわれも日本でこれから頑張っていきたいと思っています。特に、公共レベルと企業レベルの両面で生成AIに対する投資が集まっていることにも期待しています。私は日本のトップ企業の経営者とも話をしていますが、皆さん「この10年間で事業を変革するのはAIだ」とおっしゃっています。私も、こういうメンタリティーが重要だと思っています。

　世界には「AIを使うことで、コスト削減ができる」という短期的な目線でAIを見ている人も少なくありません。こうした中、日本のリーダーは長期的、戦略的なものとしてAIを考えています。私はこのように戦略的に考えている人が、最も大きな恩恵をAIから得られると思います。

編集部より：5月13日（月）午前8時にインタビューの後編を公開します。お見逃しなく！