量化感知训练（QAT）

一句话理解

训练时就“按压缩后的样子练”——把量化误差放进训练循环，模型早早适应低精度，比训后再压更保效果。

定义

量化感知训练（QAT）在训练或微调过程中模拟量化（词条 877）的舍入误差：前向用伪量化节点，让权重与激活提前适应低精度表示。对比训后量化（PTQ），在 4-bit 这类低比特下通常保留更多精度。

你会在哪遇到它

端侧部署项目的技术选型；模型发布页标注的 QAT 版本；讨论“4-bit 掉多少分”的评测文章。

背后的原理

PTQ 简单快捷——训完直接压，但低比特时误差累积明显；QAT 把量化当约束参与训练，模型学会在低精度下也表现好，代价是要完整训练流程与数据。端侧模型（881）发布常用 QAT 或 QAT 微调。与混合精度（1078）方向相反：那是训练用高精度保稳定，QAT 是为部署主动降精度。

和相近概念的区别

1 与量化（877）：量化是压缩技术总称，QAT 是其中“训练时做”的流派。 2 与混合精度（1078）：混合精度为训练提速，QAT 为部署压体积，目的相反。 3 与知识蒸馏（876）：都让低配版逼近原模型，蒸馏传知识，QAT 适配数值格式。

常见误区

1 QAT 一定优于 PTQ——低比特通常如此，8-bit 时 PTQ 已够用且便宜。 2 量化无损——所有量化都有精度代价，关键看任务对误差的容忍度。 3 自己训 QAT 很简单——要原训练数据或高质量替代数据，缺数据时效果打折。