AWS、AIモデルのトレーニングと実行向け新チップ「Graviton4」と「Trainium2」を発表:AWS re:Invent 2023
Amazon傘下のAWSは、MLトレーニングや生成AIアプリを含む広範な顧客のワークロード向けの次世代チップ、「Graviton4」と「Trainium2」を発表した。いずれも先代より大幅に性能が向上したとしている。
米Amazon傘下のAWSは11月28日(現地時間)、ラスベガスで開催の年次イベント「AWS re:Invent 2023」の基調講演で、2つの次世代チップ「AWS Graviton4」と「AWS Trainium2」を発表した。MLトレーニングや生成AIアプリを含む広範な顧客のワークロードで、価格性能とエネルギー効率の向上を目指すとしている。
Graviton4は、Armベースのクラウド向けプロセッサ。2015年に買収したイスラエルAnnapurna Labsが設計と製造を行い、初代は2018年に発表された。2021年発表のGraviton 3と比較して、コンピューティング性能は最大30%、コアは50%増、メモリ帯域は75%向上し、Amazon EC2での幅広いワークロードに対して最高の価格性能とエネルギー効率を実現するとしている。
また、すべての物理的なインタフェースが「暗号化」され、顧客のワークロードとデータの安全性が向上するという。
Graviton4はAmazon EC2 R8gインスタンスで利用可能になる。現在プレビュー段階で、向こう数カ月以内に一般提供する予定だ。
Trainium2は、2020年のre:Inventで発表したTrainiumの第2世代機械学習(ML)トレーニングプロセッサ。最大10万チップをEC2 UltraClusterに展開可能で、先代より最大4倍のトレーニング速度を実現するという。基盤モデルやLLMモデルのトレーニング時間を大幅に短縮し、エネルギー効率を最大2倍向上させるとしている。
こちらはAmazon EC2 Trn2で提供する見込み。具体的なリリース時期は、まだ発表されていない。
関連記事
- AWS、業務専用AIアシスタント「Amazon Q」発表 月額20ドル/ユーザーで提供開始
AWSは年次イベント「re:Invent」で、ChatGPT Enterpriseや企業向けCopilotと競合するAIアシスタント「Amazon Q」を発表した。「Amazon Bedrock」ベースで、SlackやGmailなどの外部データソースへのアクセス権を与えることもできる。 - 大手クラウドはクラウド専用チップで戦う時代へ 各社がクラウド基盤に専用SoC、サーバにArm、AI処理に独自プロセッサを相次いで採用
AWS、Microsoft Azure、Google Cloudの3大クラウド事業者は本格的にクラウド専用チップで戦う時代に。各社におけるチップレベルの取り組みをまとめる。 - Microsoft、AI最適化チップ「Azure Maia 100」と汎用Armチップ「Azure Cobalt」
Microsoftは2つのカスタム設計チップ、AIに最適化した「Maia 100」とArumベースの汎用「Cobalt 100」を発表した。「インフラストラクチャスタックのすべての層を最適化して統合することが重要」とガスリー氏。 - Meta、AI強化に向けた自社開発のAIチップ、スパコン、データセンター、生成AIアシスタントを発表
MetaはAIに関する取り組みについて発表した。自社開発のAIチップ2種、スパコン「RCS」の進捗、GitHub Copilotのような「Code Compose」、AIデータセンターについてだ。 - AWS、Armベースの独自プロセッサを強化した「Graviton 3」発表 新インスタンス「C7g」も
米AWSが、クラウド向けArmプロセッサの新型「Graviton 3」を発表。旧型に対し、機械学習で3倍の性能を実現し、最大で60%の電力消費量削減が可能という。Graviton 3を搭載したインスタンス「C7g」も発表した。 - AWS、自社開発MLトレーニングプロセッサ「Trainium」 EC2で提供へ
AWSが自社開発の機械学習トレーニングプロセッサ「Trainium」を発表した。2018年発表の「Inferentia」と平行して来年からEC2で提供する。EC2ではIntelの「Gaudi AI」ベースのインスタンスも提供予定だ。
関連リンク
Copyright © ITmedia, Inc. All Rights Reserved.