Microsoft、Copilotなどを自社開発チップで稼働 新チップでNVIDIA依存から脱却狙いか

 超知能時代に向けて、Microsofのインフラは新たな段階へ――米Microsoftは10月12日(現地時間)にこう述べ、自社開発のAIアクセラレータ「Azure Maia」(以下、Maia)の第3世代「Maia 300」を発表した。2027年に量産、展開を始める予定だとしている。NVIDIAの新チップ「Rubin」とほぼ同等のメモリ帯域幅で、LLM推論のNVIDIA依存から脱却する狙いがあるとみられる。

 同年からMaia搭載のインフラを数ギガワット規模に拡大し、自社サービスの主要な推論基盤にする計画だ。

Maia 300|Microsoft

 同社によれば、前世代の「Maia 200」は既に「Microsoft Copilot」などのワークロードを処理し、2026年内に「GitHub Copilot」と「Microsoft Foundry」にも対応する予定。米OpenAIのモデルや自社の「MAI」モデルなどを稼働させているという。

 Maia 300はAI向け推論に最適化したアーキテクチャを採用し、長いコンテキストの処理やデコード(回答生成)負荷の高いタスクにおいて有用だという。8基のHBM4スタックを搭載し、電力上限950ワットの範囲内で18.0TB/sのメモリ帯域幅を実現したとしている。MXFP4など、LLMのデータ量を減らし処理効率を高めるフォーマットにも対応する。

Maia 300搭載のラック|Microsoft

 同社の予測では、主要なGPUベースのシステムと比べて1メガワット当たりの生成トークン数が40%増える。96基構成のラック単位では、Maia 200比で最大7倍のトークンスループットを実現するとうたっている。

印刷する
SNSでシェア
SpecialPR

関連記事

こんなメディアも見られています

ITmedia AI+に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。

メールマガジンを配信中
メールマガジンを配信中

国内外の業界動向、AIやクラウドなどの最新技術、キャリア情報など今知りたい情報をまとめてお届けします。

いますぐご登録

よく見られているカテゴリー

アクセスランキング

  1. 1
  2. 2
  3. 3
  4. 4
  5. 5
  6. 6
  7. 7
  8. 8
  9. 9
  10. 10

SpecialPR

ITmedia AI+ SNS

X @itm_aiplusをフォロー

インフォメーション

ITmedia AI+をフォロー

あなたにおすすめの記事PR