通俗易懂的 AI 术语解释,按字母索引快速查阅。 共 2 条 · 关键词「量化」
给模型“减肥”——把参数从高精度数字压成低精度存储,体积砍半甚至砍到四分之一,普通电脑也能跑大模型。本地部署绕不开的词。…
训练时就“按压缩后的样子练”——把量化误差放进训练循环,模型提前适应低精度,端侧部署前的深度压缩选项。…