4台のM5 Ultra Mac Studioで「データセンター級」メモリ帯域幅4.8TB/s　巨大LLMも高速でローカル実行可能に（1/2 ページ）

　Mac4台でデータセンター級のメモリ帯域幅に――複数デバイスをAIクラスタとして扱うためのOSS「exo」を開発する米EXO Labsは8月25日（現地時間）、米Appleの新チップ「M5 Ultra」を搭載した新型「Mac Studio」4台のクラスタで合計約4.8TB/sのメモリ帯域幅を実現できると発表した。巨大な大規模言語モデル（LLM）をローカルで高速実行できるとうたう。

　EXO LabsはAppleと1年にわたり協力し、OSやCPUを挟まずメモリ間で直接データを転送する技術「RDMA」を、Mac Studioに搭載された「Thunderbolt 5」で低遅延に行う技術を開発。これによりクラスタ全体のメモリ帯域幅を繋いだ台数にほぼ比例して拡大でき、「Kimi K3」「GLM-5.3」などの巨大モデルも「API並みの速度」で動くという。成果はAppleの製品ページでも紹介されている。

Mac Studioの製品ページ｜Apple

　M5 UltraはAppleが同日に新発表したチップで、最大36コアのCPUと最大80コアのGPUを搭載。1.2TB/sのメモリ帯域幅を備える。M5 Ultra搭載のMac Studioの価格は94万9800円（税込）から。8月25日から予約を開始し、発売は9月22日。ただし512GBメモリのモデルは10月下旬発売となる。

印刷する

SNSでシェア

関連記事

• 

  日本HPのPCが楽天のAIを搭載、ローカル実行も可能　HP岡戸社長「ハイブリッドAIの重要なマイルストーン」

• 

  「Kimi K3」のモデルウェイトと技術レポート公開　日本でも「NVIDIA B300×8」環境での利用報告

• 

  「Siri AI」新登場　「Apple Intelligence」大幅刷新、Googleと共同開発　年内に英語版

こんなメディアも見られています

ITmedia AI＋に関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。

企業ITのトレンドを詳説

ITmedia エンタープライズ

エネルギーの専門メディア

スマートジャパン

建設×テクノロジーの最前線

BUILT

ビジネスと働き方のヒント

ITmedia ビジネスオンライン