速報
NVIDIA、生成AI向け“スーパーチップ”「GH200 Grace Hopper」を2024年に発売
NVIDIAは、「H100」の3倍のメモリ容量を搭載する生成AI向け“スーパーチップ”「GH200 Grace Hopper」を発表した。ジェンセン・ファンCEOは「LLMの推論コストは大幅に低下する」と語った。
米NVIDIAのジェンセン・ファンCEOは8月8日(現地時間)、SIGGRAPH 2023の基調講演で、次世代“スーパーチップ”「GH200 Grace Hopper」を発表した。LLM(大規模言語モデル)などの複雑な生成AIワークロード向けに開発されており、幅広い構成で利用可能になるとしている。
GPUは2020年リリースの「H100」と同じだが、現行のメモリ「HBM3」より50%高速な新「HBM3e」メモリを搭載する。これにより、H100の3.5倍大きいモデルを実行でき、3倍高速なメモリ帯域幅で性能を向上させるとしている。
ファン氏は、この製品に注力しているとし、「世界のデータセンターのスケールアウト向けに設計されている」と語った。GH200により、「LLMの推論コストは大幅に低下する」とファン氏。
2024年第2四半期には大手メーカーから搭載システムが登場する見込みだ。価格は発表されていない。
関連記事
- NVIDIAとSnowflake、生成AIで提携 企業にSaaS上のデータ利用の独自AIアプリ構築環境提供へ
NVIDIAとSaaS型データウェアハウスのSnowflakeが提携を発表した。顧客企業が独自のデータを使ってカスタマイズした生成AIアプリを開発するための環境を提供する。 - NVIDIAのファンCEOがCOMPUTEXで披露した生成AI関連製品まとめ
NVIDIAは「COMPUTEX 2023」で、多数の生成AI関連製品を発表した。大容量AIスパコン「DGX GH200」やゲームキャラに命を吹き込む「Avatar Cloud Engine」など、ジェンスン・ファンCEOが発表した主な製品をまとめてみた。 - ソフトバンク、NVIDIAと生成AIで協業 5G/6Gアプリ提供へ
ソフトバンクがNVIDIAと生成AI関連で協業。5G/6Gアプリケーションをホストする次世代プラットフォームを構築。 - NVIDIA、データセンター向け新GPU「A100」発表 AI性能はV100の20倍
NVIDIAが、新GPUアーキテクチャ「Ampere」採用のデータセンター向けGPU「A100」を発表。AI性能はV100の約20倍。AWS、Microsoft Azure、Google Cloud、富士通などが採用を予定している。
関連リンク
Copyright © ITmedia, Inc. All Rights Reserved.