清水亮の「世界を変えるAI」

ディープラーニングが激速に　NVIDIAの牙城を崩せるか？　SambaNovaに聞く（2/4 ページ）

公開 2023年04月26日 13時03分

更新 2024年04月02日 11時14分

著者

清水亮

[ITmedia]

印刷する連載新着通知を受け取る Googleで優先するソースとして追加

非ノイマン型のデータフロープロセッサとは？

――まず、データフロー型というものについて教えてください。従来のGPUとの違いは何でしょうか？

鯨岡氏　従来のGPUコンピューティングは、あくまでもノイマン型でした。ノイマン型というのは、ご存じだと思いますが、プロセッサがメモリからデータを読み書きしながら処理を行うわけです。

　ディープラーニングでは大量のデータを同時並行的に処理する必要があるため、高速なメモリがないと処理が進まなくなってしまう。そこでGPUではHBMという非常に高速だが容量が小さく、高価なメモリを使わなければならない。ここがネックになって、GPUを使ったシステムは非常に高価な割に、大きなニューラルネットを1つのプロセッサ上に載せられないというジレンマがありました。

　データフロー型では、このノイマン型のアプローチをやめ、演算ユニットから演算ユニットへ直接データが流れていきます。メモリとプロセッサの間をデータが往復するのではなく、演算ユニットから演算ユニットへデータを流し込んでいくのです。その結果、高速なメモリが不要になります。現在の実装では1TBのDDR4メモリを搭載しています。

――ちょっと待ってください。通常、GPUに搭載できるメモリ（HBM）は80GB程度が限界ですよね？　それがデータフロー型だと1TBまで拡張できると、そう解釈していいんですか？

鯨岡氏　演算ユニットとメモリの間をデータが頻繁に往復しないので、DDRのような一般的なメモリで十分ということですね。例えば、実際にSambaNovaの再構成可能なデータフローユニット（Reconfigurable Dataflow Unit、RDU）でできることの例として石油開発のために地下の状況を分析する3次元セグメンテーションのタスクがあるんですが、このタスクで比較すると、GPUでは解像度が128x128x128くらいが限界なんですね。ところがRDUを使えば512x512x512と、一目瞭然と言って良いほどに解像度を上げられるわけです。