「我が社もAI PC」の前に　知っておくべきオンデバイスAI実行環境の基礎知識（2/3 ページ）

» 2024年08月23日 15時00分公開

　そして大事なことは、スパコンやデータセンターといった大規模な環境でなくとも、デスクトップPCやノートPCでもGPUを搭載したモデルはあることだ。NVIDIAのコンシューマ向けハイエンドモデルGPU「GeForce RTX 4090」を搭載したノートPCも販売されている（なおデスクトップ向けとノート向けで性能は異なる）。

GIGABYTEの「NVIDIA GeForce RTX 4090」水冷モデル。プロセッサを冷やすラジエータ部が巨大

　もし現在出回っているLLMや画像生成AIを今すぐローカル環境で実行したいのであれば、NPUよりNVIDIAのGPUが搭載されていることを重視した方がいい。なぜなら、AIの計算性能として今のところはNPUよりNVIDIAのGPUの方が高く、多くの生成AIモデルもNVIDIAのGPUで動作させることを前提に作られているからだ。

　ちなみに、GPUといえばAMDのRadeonシリーズやIntelのArcシリーズもあるが、NPUと同様に実行環境としてはNVIDIAに後れを取る。上述した「NVIDIAのGPUで動作させることを前提に作られている」とは、NVIDIAのGPUで計算するための「CUDA」という技術を使ってプログラムしていることを指す。つまり、NVIDIAのGPU環境専用にチューニングした実装であるため、そのままでは他社のGPU環境で動かないのだ。

　ここまでで、（特にNVIDIAの）GPUのメリットをまとめよう。GPUはAI処理のデファクトスタンダードとして歴史を持ち、データセンターに限らずデスクトップやノートPCのようなデバイス環境でも高速・高性能な処理を求めるならGPU搭載機が適している。生成AIの開発もNVIDIAのGPUを前提としていることが多く、ハードウェアからソフトウェアまで環境がそろっているといえる。

GPUの弱点と対照的なNPUのメリット

　ではNPUには何のメリットがあるのか。きちんとメリットはある。ポイントはGPUの弱点である「電力消費」や、それに伴う種々の問題を抑えられる点だ。

　データセンターの電力消費問題もしばしば取り沙汰されるが、デスクトップやノートPCにおいてもGPUの消費電力問題はある。例として、先ほども挙げたハイエンドモデル「RTX 4090」はデスクトップモデルで最大約450W、ノート向けモデルで最大約150Wの電力を消費する。一般的なビジネスノートPCのACアダプターの電力供給が65W程度であることを考えると、その大きさが分かりやすいのではないだろうか。デスクトップ向けに至っては電子レンジを動かしているようなものだ。

　そして電力を多く消費するということはそれだけ発熱するということでもあり、必然的に筐体サイズや重量も大きく重くなる。ビジネスノートPCは1kg前後で作られることが多いが、GPU搭載のノートPCも昔に比べてスリムになってきたとはいえ、軽くても2kgを切る程度、多くは2kg台と、バッグに入れて通勤するにはやや億劫（おっくう）になる重量だ。加えてACアダプターも供給電力に応じて重くなる。バッテリー駆動時間も短くなるため、ACアダプターもともに持ち運ばなければならない。

ゲーミングノートPCの一例。330W供給可能なACアダプターはiPhone 15 Pro Maxと比べてかなり大きい

　対するNPUはGPUほどの計算性能は持たないものの、比較的低電力ながら効率的にAI処理を実行できる点がメリットとなる。GPUに比べ、NPUはそもそも低電力環境での計算に特化してきた歴史を持つ。

　実はNPUと一括りに言っても出自はさまざまで、IntelのNPUは同社が買収した米Movidius（モビディウス）が開発していた専用チップにルーツを持つ。このチップは中国DJIのドローンでも顔認識などAI計算用途に搭載されていた。AMDはFPGA開発の米Xilinx（ザイリンクス）を買収。FPGAも並列処理や低電力での実行に向いており、その技術をベースにしたNPUを搭載する。米Qualcommや米Appleは、IntelやAMDに先駆けてスマートフォンやタブレット向けにNPUを搭載してきた。

　このようにいずれのNPUも低電力でのAI処理が特徴となる。このため、従来のビジネスノートPCと同程度の重量、バッテリー駆動時間でありながら一部のAI処理は効率良く行える……というのがNPUを搭載した「AI PC」のメリットとなる。