生成AIでGPUがいらなくなる? 業界を揺るがす「1ビットLLM」とは何か、識者に聞いた
「1bit LLMの時代」と題した論文。小数点の大量の掛け算だったこれまでのAIの推論を、1、-1、0の3値に量子化すれば、計算がCPUでも容易になるブレークスルーが起きるとしている
Copyright © ITmedia, Inc. All Rights Reserved.
SpecialPR
Copyright © ITmedia, Inc. All Rights Reserved.
SpecialPR