Microsoft、Copilotなどを自社開発チップで稼働 新チップでNVIDIA依存から脱却狙いか
超知能時代に向けて、Microsofのインフラは新たな段階へ――米Microsoftは10月12日(現地時間)にこう述べ、自社開発のAIアクセラレータ「Azure Maia」(以下、Maia)の第3世代「Maia 300」を発表した。2027年に量産、展開を始める予定だとしている。NVIDIAの新チップ「Rubin」とほぼ同等のメモリ帯域幅で、LLM推論のNVIDIA依存から脱却する狙いがあるとみられる。
同年からMaia搭載のインフラを数ギガワット規模に拡大し、自社サービスの主要な推論基盤にする計画だ。
同社によれば、前世代の「Maia 200」は既に「Microsoft Copilot」などのワークロードを処理し、2026年内に「GitHub Copilot」と「Microsoft Foundry」にも対応する予定。米OpenAIのモデルや自社の「MAI」モデルなどを稼働させているという。
Maia 300はAI向け推論に最適化したアーキテクチャを採用し、長いコンテキストの処理やデコード(回答生成)負荷の高いタスクにおいて有用だという。8基のHBM4スタックを搭載し、電力上限950ワットの範囲内で18.0TB/sのメモリ帯域幅を実現したとしている。MXFP4など、LLMのデータ量を減らし処理効率を高めるフォーマットにも対応する。
同社の予測では、主要なGPUベースのシステムと比べて1メガワット当たりの生成トークン数が40%増える。96基構成のラック単位では、Maia 200比で最大7倍のトークンスループットを実現するとうたっている。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
こんなメディアも見られています
ITmedia AI+に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
アクセスランキング
-
1
Meta、同社最大のAIモデル「Muse Wonder」発表 記憶力と粘り強さを強化、AIエージェント「Muse」にも搭載へ
-
2
AnthropicのAI、未解決殺人事件で警察に虚偽の情報提供 米政権は「通知と是正は義務」と警告
-
3
MicrosoftのナデラCEO、「SIモデルは“内部リスク”として扱うべき」とXに投稿 統制はモデルの外に置くよう提言
-
4
FDEが構築したAIエージェントの7割、企業が放棄へ Gartner予測
-
5
“クールジャパン機構の二の舞”か? 2兆円支援のラピダス、2ナノ半導体工場あっても拭えぬ「顧客不在」の懸念
-
6
Google「Gemini」新サービスで「Claude」利用可能に 他モデルも今後追加予定
-
7
「当然、攻撃者はAIを悪用する」――不正アクセスに対峙する国家サイバー統括室を直撃、日本の情報をどう守る?
-
8
3社に1社がトークン予算超過 コスト増を最大44%抑える方法とは【アクセンチュア調査】
-
9
Microsoftも“判断特化”AIモデル「Microsoft-Decision-1」、Qwenベースで「Jev」と同価格
-
10
OpenAIが「数学論文722本」を一挙公開 「AI企業の技術独占」に数学界が猛反発したワケ
SpecialPR
ITmedia AI+ SNS
インフォメーション
注目情報をチェック
ITmedia AI+をフォロー
あなたにおすすめの記事PR