AIデータセンターの“真の実力”を左右する「CPU」 その復権の背景にあるものとは？：AMD AI Advancing 2026（1/2 ページ）

今まで生成AIというとGPUによる学習／推論がメインだったが、昨今はCPUの処理能力にも注目が集まっている。その背景にあるのは何なのか、AMDの開催したイベントを通して見ていこう。

[鈴木淳也（Junya Suzuki），ITmedia]

　Advanced Micro Devices（AMD）が7月22日から23日まで（米国太平洋夏時間）開催した自社主催のイベント「AMD AI Advancing 2026」では、「AIワークロードにおけるCPUの復権」がテーマの1つとなった。

　そもそも、同社のライバルであるNVIDIAがAI時代に急成長して注目を集めた理由の1つとして、「Transformer（トランスフォーマー）」を始めとするAIモデルの深層学習の過程において、膨大なパラメーターの行列計算（積和演算）を行う際にGPUの超並列処理が最適だったということがある。加えて、この計算で重要となるライブラリー（補助プログラム群）をCUDAプラットフォーム上で構築することに成功したという点もプラスに働いた。

　しかし現在、AIの利用が広がり、ワークロードの主役は「モデルの学習（Training）」から「モデル利用のための推論（Inference）」に移行しつつある。前回のレポートでは、こうした変化によってAMDがNVIDIAに“真っ向勝負”を挑める環境が整いつつあることをお伝えした。

• →「AIハイパースケール」でNVIDIAに真っ向勝負を仕掛けるAMD　2030年に向けたロードマップを公開

　今回は、このことをもう少し掘り下げて、CPUの重要性が問われるようになった背景を追いかけたい。

「AMD AI Advancing 2026」が開催された、米カリフォルニア州サンフランシスコ市にあるMetreon（左）とMoscone West（右）

「AIエージェント」で変わる演算リソースの比重

　AIのワークフローが学習中心から推論中心になってきているのは、先述の通りだ。AMDのリサ・スーCEOは「『Agentic AI（エージェンティックAI）』こそが、このトレンドを加速させている。なおかつ、これはAIの進化における大きなステップであり、この動きは2026年に入ってから5〜6カ月で急速に加速し始めた」と語る。

　重要なのは、AIエージェントの広がりが業界トレンドに「学習から推論への変化」をもたらしただけでなく、従来とは異なるコンピューティングパワーを要求し始めた点にある。

　まず“学習”に関しては分かりやすい。GPU上でひたすら並列処理で行列演算を行わせるからだ。もう一方の“推論”は、学習したモデルに対してプロンプトを通じてデータや指示を与え、「トークン化→エンコード→デコード」の順で出力結果を返してくる。

　トークン化にはいわゆる「スカラー演算器（Scalar Unit）」が用いられるが、これはCPU主体で処理されることが多い。エンコードとデコードの処理は行列演算となるため、「ベクトル演算器（Vector Unit）」と「テンソル演算器（Tensor Unit）」が担うことになる。これらは基本的にGPUまたはNPUの領分だ。

　つまり、CPUは推論の前処理に当たる部分を担う「指示役」で、GPUやNPUは「実行役」を担っている。少し見方を変えると、従来のAI処理におけるCPUは、データや指示を流し込むだけの「中継役」に過ぎなかった。

　ところが、AIエージェントの時代になると、この構図に変化が生じる。

　チャットボットであれば「問いに対して回答する」という一方通行の処理で問題なかった。しかし、AIエージェントは一度「目標」を与えると、解決するまで延々と再帰処理を続ける。ツールを呼び出したり、必要な情報を検索したり、あるいはMCP（Model Context Protocol）などを通してエージェント同士で連携したり……といった具合だ。

　このことは1つのタスクに対して複数ステップの推論処理が走ることを意味する。この複雑な問題解決のために、実質的な「中継役」であるCPUに求められるニーズ（≒性能）がさらに高まるという流れだ。

　この中継を行うAIエージェントは「オーケストレーター（Orchestrator）」などと呼ばれるが、GPUを用いる推論処理は、AIエージェント時代はあくまでも“タスク”の一部となる。チャットボット時代ならCPUとGPUの使用比率は「1：4」だったものが、2026年以降のAIエージェント時代には「1：1」程度、つまりCPUとGPUが同じ比重で使われるというのがAMDの見立てだ。

チャットボット時代とAIエージェント時代でのCPUとGPUの使用比率の変化

「分岐処理」の増加もCPUの“復権”につながる

　AIエージェント時代においてCPUの役割が重要となるもう1つの理由に、「分岐処理」の多さがある。

　オーケストレーターがタスクを分割し、適切なAIモデルに処理を振り分けることを「ルーティング（Routing）」と呼ぶ。この過程では、大規模言語モデル（LLM）が参照するデータベース「RAG（Retrieval Augmented Generation）」や各種ツールを呼び出す作業が発生する。

　この際に計算処理のために「Python」などのプログラムコードを生成するケースがある。そこで生成されたコードによって多くの分岐処理が発生することで、全体処理が止まることもある。ゆえに、元から分岐処理が得意なCPUの方が、GPUよりも対応しやすいのだ。

「トラフィック特性」の変化も見逃せない

　今回のイベントの“主役”は、AIデータセンター向けラックサーバ「AMD Helios」だが、ハイパースケーラーのような大規模データセンターの世界では、分岐処理が億単位で同時に走ることになるため、よりCPUの負荷が大きくなる。そしてさらに重要なのがトラフィック特性だ。

　下に示した図は概念的なものだが、チャットボットでは指示を流し込むのは“人間”なので、必ずここがボトルネックとなって、処理がいったん停滞する。仮にAIデータセンターのコンピューティングリソースを使っていたとしても、その需要は細切れ（Bursty）で、一時的にトラフィックが急増しても「回答」を返した瞬間にいったん処理が停止する。

　ところが、AIエージェント時代になるとこの特性が変化し、処理が常に一定程度の上限まで張り付くことになる（Steady State）。これは、人間が関与するのが最初の指示だけで、残りはAIエージェントがひたすら処理を繰り返すことになるため、実質的に“隙間”がなくなるからだ。処理は全て“マシンスピード”で行われる。

　これを滞りなく行うために求められるのは、GPUよりもむしろCPUの実力だ。ある意味で、AIエージェント時代はAIデータセンターの“真の実力”が初めて問われることになるかもしれない。

チャットボット時代とAIエージェント時代のトラフィック特性の違い