Google、生成AIを支える新TPU「Trillium」の一般提供開始

公開 2024年12月12日 10時42分

[ITmedia]

印刷する

　米Googleは12月11日（現地時間）、同社の第6世代TPU（Tensor Processing Unit）、「Trillium」のGoogle Cloudでの一般提供開始を発表した。Trilliumは今年のGoogle I/Oで予告していたTPUだ。

（画像：YouTube動画より）

　TPUは、Googleが開発した特定用途向け集積回路（ASIC）で、AIモデルのトレーニングや推論に最適化されている。Trilliumは同日発表の「Gemini 2.0」のトレーニングにも使われた。

　Trilliumは、先代と比較してトレーニング性能は4倍以上、推論スループットは最大3倍、エネルギー効率は67％、チップ当たりのピークコンピューティング性能は4.7倍、広帯域メモリ（HBM）容量は2倍、チップ間相互接続（ICI）帯域幅は2倍に向上したという。

Googleは2015年からTPUに取り組んでいる（画像：Google）

　Trilliumのスケーリング機能はほぼ線形なため、高速インターチップインターコネクトを介して接続した多数のTrilliumホストにワークロードを分散することで、Gemini 2.0などのモデルを高速でトレーニングできるとしている。

　また、Trillium搭載のスーパーコンピュータアーキテクチャ「AI Hypercomputer」も発表した。10万個以上のTrilliumチップと13ペタビット／秒の双方向帯域幅を持つJupiterネットワークファブリックを組み合わせることで、単一の分散トレーニングジョブを数十万のアクセラレータにスケーリングすることを可能にする。

　Trilliumの利用方法や料金に関する詳細については、Google Cloudの営業チームに問い合わせのこと。