生成AIでGPUがいらなくなる? 業界を揺るがす「1ビットLLM」とは何か、識者に聞いた

「1bit LLMの時代」と題した論文。小数点の大量の掛け算だったこれまでのAIの推論を、1、-1、0の3値に量子化すれば、計算がCPUでも容易になるブレークスルーが起きるとしている

記事に戻る