ITmedia NEWS > AI+ >
ITmedia AI+ AI活用のいまが分かる

ディープラーニングが激速に NVIDIAの牙城を崩せるか? SambaNovaに聞く清水亮の「世界を変えるAI」(3/4 ページ)

» 2023年04月26日 13時00分 公開
[清水亮ITmedia]

LLMにおいてGPUより6倍高速

――具体的には、どの程度の性能差があるんですか?

鯨岡氏 簡単にいえば、同じ規模のシステムで比較して6倍高速です。それまでDGX A100で約300日かかったGPT 13Bの学習が、SambaNovaのRDUを8基搭載したSambaNova DataScaleで約50日で済む計算です。

――RDUとは何ですか?

鯨岡氏 RDUはSambaNova独自のAI半導体で、「再構成可能なデータフローユニット(Reconfigurable Dataflow Unit)」のことです。RDUの中をデータが流れるように論理回路を再構成することが可能になっているので、目的に応じて最適なデータの流れを作り出すことができます。

(a)が従来のGPUによる実行処理 (b)はデータフローによる実行処理 データフローの方が手戻りが少ない

――お話を聞いているとすごいことばかりですが、実際に富岳以外の採用例はありますか?

鯨岡氏 最初に導入されたのは米国ローレンス・リバモア国立研究所とアルゴンヌ国立研究所です。

――どちらもマンハッタン計画に関わった研究所ですね。最近だとレーザー核融合や、新しく発見された元素番号116番「リバモリウム」を発見し、その語源となったことでも有名ですが。

鯨岡氏 もっとも、米国の研究所というのは、新しいアーキテクチャが発売されたら、とりあえず何台かは買うんですよ。お試しで。ただ、昨年11月のSC22で発表しましたが、アルゴンヌ国立研究所からは追加注文をいただきました。一定の成果を認められたということだと解釈しています。

Copyright © ITmedia, Inc. All Rights Reserved.