マイページ
ITmedia
注目記事を集めた総合ページ
ITmedia NEWS
ITの今と未来を見通す
ITmedia Mobile
スマホと通信の最新トレンド
ITmedia PC USER
進化するPCとデバイスの未来
Fav-Log by ITmedia
好きが集まる　比べて選べる
ITmedia ビジネスオンライン
ビジネスと働き方のヒント
ITmedia AI＋
AI活用のいまが分かる
ITmedia エンタープライズ
企業ITのトレンドを詳説
ITmedia エグゼクティブ
経営リーダーのコミュニティ
ITmedia マーケティング
マーケ×ITの今がよく分かる
＠IT
ITエンジニア向け専門サイト
キーマンズネット
企業向けIT製品の総合サイト
TechTargetジャパン
IT製品の技術・比較・事例
TechFactory
製造業のIT導入・活用を支援
MONOist
モノづくり技術者専門サイト
EE Times Japan
エレクトロニクス専門サイト
EDN Japan
電子設計の基本と応用
スマートジャパン
エネルギーの専門メディア
BUILT
建設×テクノロジーの最前線
ねとらぼ
ちょっと気になるネットの話題

100万円のPCが注目ランキング1位に？　ローカルLLMブームを生んだ「3つの条件」

メインメモリとGPUのVRAMを合わせてLLMのウェイトを展開する方法もあるが、VRAMのみに展開する方法に比べて推論速度が落ちる。写真はGPUに加えて48GBのメインメモリを4枚搭載した筆者のLLM推論マシン

前の画像
5 / 6
次の画像
記事に戻る

Copyright © ITmedia, Inc. All Rights Reserved.