Qualcomm、データセンター向けAI推論チップ市場に本格参入 「AI200」「AI250」発表
米Qualcommは10月27日(現地時間)、データセンター向けの次世代AI推論チップ「AI200」と「AI250」を発表した。
Qualcommはこれらの製品で、AIモデルのトレーニングではなく、AIモデルを実行する推論に焦点を当てているという。AI200とAI250の目的は、ラック規模の生成AI推論パフォーマンスと優れたメモリ容量を提供することであり、特にLLMやLMM(マルチモーダルモデル)の推論ワークロードに最適化されているとしている。同社は、これらのAIチップが、電力消費、所有コスト、新しいメモリ処理方法において、他のアクセラレータよりも優位性を持つと説明している。
AI200は、カード当たり768GBのLPDDRメモリをサポートしており、このメモリ容量は、現行の米NVIDIAや米AMDの製品よりも多い。AI250については、ニアメモリコンピューティングに基づいたメモリアーキテクチャが特徴で、「実効メモリ帯域幅を10倍以上向上させながら消費電力を大幅に削減」したとし、推論ワークロードの効率とパフォーマンスで飛躍的な進歩をもたらすと説明した。
これらのラックソリューションは、熱効率のために直接液冷を採用し、ラックレベルでの消費電力は160 kWだ。「開発者は、Qualcomm TechnologiesのEfficient Transformers LibraryとQualcomm AI Inference Suiteを介して、シームレスなモデルオンボーディングとHugging Faceモデルのワンクリックデプロイのメリットを享受できる」という。
AI200は2026年に、AI250は2027年に商業的に利用可能になる見込みだ。
QualcommはAIチップの発表と同時に、5月に発表したサウジアラビアのAI企業Humainとの提携の進捗についても説明した。Humainは、AI200とAI250のラックソリューションを200メガワット(MW)規模で導入することを目標とする。この取り組みで、Humainが開発したAI「ALLaM」モデルをQualcommのAIプラットフォームと統合する予定だ。
Qualcommはスマートフォン向けプロセッサで知られるが、2019年にはデータセンター向けAI処理向けチップを発表している。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
こんなメディアも見られています
ITmedia NEWSに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
本日の新着記事
アクセスランキング
-
1
GMO、ランサム被害にあった顧客に新しいPC提供へ 犯行グループは1人の顧客情報公開か
-
2
NECのルータ「Aterm」、PHP脆弱性の影響なし 設定画面URLの「.php」は無関係
-
3
GMO、不正アクセス実行犯の手がかりに懸賞金 1億5000万円規模
-
4
「楽天トラベル」に不正アクセス 顧客情報最大約260万件など流出か 予約者約3.6万件のクレカ情報も
-
5
auメールで朝から障害 全国で利用しづらい状況に
-
6
Apple、M6搭載の14インチ「MacBook Pro」発表 AI性能向上、33万9800円から
-
7
IPO目論見書に「AIは人類の存亡リスク」「コードの9割はClaude製」 Anthropicが示した規格外の見立て
-
8
So-net、会員情報約259万件が漏えい 一部メールサービスではパスワードも流出
-
9
GMO、攻撃者の公開情報に「アクセスは絶対に控えて」 悪質な拡散者には法的措置を準備
-
10
メアドを検索→AIで“その人専用フィッシングメール”を生成する手法、クリック率が約2.7倍に 7000人以上で実験
ITmedia NEWS SNS
インフォメーション
注目情報をチェック
ITmediaNEWSをフォロー
あなたにおすすめの記事PR