NVIDIA、2つのGPUダイを採用した新GPUアーキテクチャ「Blackwell」発表 電力効率25倍、AI性能は30倍に
「Blackwell」は2つのGPUダイ(半導体のチップ本体)を10TB/秒の超高速なインタフェース「NV-HBI」で接続し、1つのGPUとして振る舞う仕組みを採用している。トランジスタの数は2080億個に上る。
米NVIDIAは3月18日(現地時間)、高度なデータセンターなどで使われるGPUの新アーキテクチャ「Blackwell」(ブラックウェル)を発表した。同技術を採用する製品は、コストとエネルギー消費を従来製品の25分の1に抑えながら、数兆規模のパラメータを持つ大規模言語モデル(LLM)による生成AIを構築、実行できるようになるという。搭載製品は2024年後半から市場に投入される予定だ。
Blackwellは、2022年に同社がリリースした「Hopper」(ホッパー)の後継に位置付けられる新アーキテクチャだ。2つのGPUダイ(半導体のチップ本体)を10TB/秒の超高速なインタフェース「NV-HBI」で接続し、1つのGPUとして振る舞う仕組みを採用している。トランジスタの数は2080億個に上る。
さらに4bit浮動小数点AI推論を実現する第2世代の「Transformer Engine」(AIトレーニングのアクセラレーター技術)や、1.8TB/秒の双方向スループットや最大576基までのGPU接続を実現する最新の「NVLink」(GPU間を接続するプロトコル)、GPUの信頼性や可用性、保守性を高める専用エンジン「RAS Engine」などを採用することにより、最大10兆のパラメータを持つLLMのトレーニングと推論を実現するとしている。
NVIDIAは、Blackwellアーキテクチャを採用する製品として「NVIDIA GB200 Grace Blackwell Superchip」(以下、GB200)を同時発表している。これは2基のBlackwell GPUを900GB/秒のインタフェースでNVIDIA Grace CPUと接続したものだ。
このGB200を36基搭載する水冷ラックシステム「NVIDIA GB200 NVL72」は、従来の「NVIDIA H100 Tensor コア GPU」と比べて、最大30倍のパフォーマンス向上と、コストとエネルギー消費を25分の1に抑えることが実現するという。
NVIDIA創業者のジェンスン・フアンCEOは「生成AIは、現代を定義するテクノロジーだ。Blackwellは、この新たな産業革命を推進するエンジンである。世界で最もダイナミックな企業と協力することで、私たちはあらゆる業界におけるAIの可能性を実現していくだろう」とコメントしている。
Blackwellという名前は、ゲーム理論と統計を専門とする数学者のデビッド・ハロルド・ブラックウェル氏にちなんで名付けられたという。
関連記事
サーバ向けGPU「NVIDIA A100」「NVIDIA H100」に液冷対応モデル登場 消費電力と設置スペースを削減
NVIDIAのサーバ/データセンター向けGPU(グラフィックスカード)「NVIDIA A100」に液冷対応モデルが登場する。従来の空冷対応モデルから消費電力を削減できる上、設置スペースの節約もできるようになるという。最新の「NVIDIA H100」シリーズにも液冷対応モデルが順次投入される予定だ。NVIDIAがデータセンター向けGPU「NVIDIA H100」を発表 新アーキテクチャ「Hopper」を採用
NVIDIAが、新アーキテクチャのデータセンター向けGPUを発表した。現行のAmpereアーキテクチャから演算能力やデータ点速度を引き上げた他、別売の専用ハードウェア(ラック)を用意することで最大256基のGPUをより高速に連結できる仕組みも用意した。NVIDIAがデータセンター向けCPU「Grace」を開発 Armアーキテクチャを採用して2023年初頭に発売へ
NVIDIAが、データセンター向けGPUに加えて“CPU”の開発を表明した。現在買収手続きを進めているArmのアーキテクチャを使って設計することで、省電力性と高速演算を両立したことが特徴だ。ロープロで2スロット厚! NVIDIA RTX 2000 “Ada世代”のグラフィックスカードが登場!
前世代と比べて、最大1.5倍の性能を持つというワークステーション向けグラフィックスカード「NVIDIA RTX 2000 Ada 世代 GPU」が店頭に並んだ。無償版「Copilot」でもフルタイムでGPT-4 Turboが利用可能に/「Copilot for Security」が4月1日から一般提供開始
うっかり見逃していたけれど、ちょっと気になる――そんなニュースを週末に“一気読み”する連載。今回は、3月10日週を中心に公開された主なニュースを一気にチェックしましょう!
関連リンク
Copyright © ITmedia, Inc. All Rights Reserved.