Qualcomm、データセンター向けAI推論チップ市場に本格参入 「AI200」「AI250」発表
米Qualcommは10月27日(現地時間)、データセンター向けの次世代AI推論チップ「AI200」と「AI250」を発表した。
Qualcommはこれらの製品で、AIモデルのトレーニングではなく、AIモデルを実行する推論に焦点を当てているという。AI200とAI250の目的は、ラック規模の生成AI推論パフォーマンスと優れたメモリ容量を提供することであり、特にLLMやLMM(マルチモーダルモデル)の推論ワークロードに最適化されているとしている。同社は、これらのAIチップが、電力消費、所有コスト、新しいメモリ処理方法において、他のアクセラレータよりも優位性を持つと説明している。
AI200は、カード当たり768GBのLPDDRメモリをサポートしており、このメモリ容量は、現行の米NVIDIAや米AMDの製品よりも多い。AI250については、ニアメモリコンピューティングに基づいたメモリアーキテクチャが特徴で、「実効メモリ帯域幅を10倍以上向上させながら消費電力を大幅に削減」したとし、推論ワークロードの効率とパフォーマンスで飛躍的な進歩をもたらすと説明した。
これらのラックソリューションは、熱効率のために直接液冷を採用し、ラックレベルでの消費電力は160 kWだ。「開発者は、Qualcomm TechnologiesのEfficient Transformers LibraryとQualcomm AI Inference Suiteを介して、シームレスなモデルオンボーディングとHugging Faceモデルのワンクリックデプロイのメリットを享受できる」という。
AI200は2026年に、AI250は2027年に商業的に利用可能になる見込みだ。
QualcommはAIチップの発表と同時に、5月に発表したサウジアラビアのAI企業Humainとの提携の進捗についても説明した。Humainは、AI200とAI250のラックソリューションを200メガワット(MW)規模で導入することを目標とする。この取り組みで、Humainが開発したAI「ALLaM」モデルをQualcommのAIプラットフォームと統合する予定だ。
Qualcommはスマートフォン向けプロセッサで知られるが、2019年にはデータセンター向けAI処理向けチップを発表している。
Copyright © ITmedia, Inc. All Rights Reserved.
関連記事
こんなメディアも見られています
ITmedia NEWSに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
SpecialPR
本日の新着記事
アクセスランキング
-
1
“新しいITパスポート試験”のサンプル問題が公開に シラバス案も 新たな出題範囲は?
-
2
個人開発のオンライン将棋「飛角」終了 「ほとんどがBOT対局、人同士が成立しない」状況に
-
3
ソニーミュージックのVTuberプロジェクト「VEE」終了 5年で幕「事業継続困難」
-
4
「テスト」「あああああ」誤って本番公開 サンライズ「MAO」公式サイトで
-
5
厚労省の調査書類、ヤマトが配送中に紛失 339人分の氏名や給与額など漏えいのおそれ
-
6
Grok、Aniと“お別れ” 3Dコンパニオン機能が終了 キャラは開発スタジオの新アプリ「Animates」で継続へ
-
7
知りたくなかった……「プールに含まれるおしっこの量」の記事がアクセス1位に
-
8
新型iPhoneに搭載されると噂の「可変絞り」、その効果とは?
-
9
ティックトッカーの“電車にスマホ貼り付け”騒動に東京メトロが言及 「撮影許可していない」
-
10
本来行政がやるべきDXをたった1人で完成 AIが変えた“実行可能な規模” 待機児童問題に一石を投じた「園えらびの手がかり」の例
ITmedia NEWS SNS
インフォメーション
注目情報をチェック
ITmediaNEWSをフォロー
あなたにおすすめの記事PR