反向传播与梯度下降（Backpropagation）
模型学习的“心跳”——先算错多少，再倒推每个参数该负多少责任，全体朝减小误差的方向挪一小步，训练循环的发动机。…
1 次浏览优化器（AdamW）
参数更新的智能油门——动量记惯性、二阶动量定每个参数的步幅，AdamW 是大模型训练微调的默认优化器，也是检查点变大的元凶。…
8 次浏览量化感知训练（QAT）
训练时就“按压缩后的样子练”——把量化误差放进训练循环，模型提前适应低精度，端侧部署前的深度压缩选项。…
11 次浏览成员推断攻击（Membership Inference）
反推“你的数据有没有被拿去训练”——通过观察模型对输入的自信程度判断某条记录是否在训练集里。隐私审计的利器，也是模型记忆的照妖镜。…
18 次浏览长上下文评测（大海捞针）
给模型发一本小说，只在某页藏一句话，问它“针在哪”——大海捞针测试是长上下文能力的标配考卷，选长文本模型必看。…
29 次浏览多 Token 预测（MTP）
一次多交几份答案——模型每步同时预测后面几个词元，训练信号更密更远，推理时草稿头还能白捡一笔加速，DeepSeek V3 已内置。…
26 次浏览思维链（Chain-of-Thought）
让 AI 把解题步骤写出来再给答案——像老师要求“写步骤”，写了步骤，数学和逻辑题的正确率明显提高。一句话就能用上的经典技巧。…
22 次浏览混合精度训练（Mixed Precision）
训练时的省显存魔法——大部分计算用半精度、关键更新保全精度，速度显存双丰收，效果几乎无损，如今大模型训练的默认姿势。…
18 次浏览Scaling Law（缩放定律）
AI 界的“氪金定律”——模型参数、数据、算力一起堆，能力就跟着涨，且涨得可以预测。过去几年所有巨头军备竞赛的理论依据。…
25 次浏览提示词工程师（Prompt Engineer）
和 AI 对话的职业——靠写好提示词拿高薪的岗位，2023 年爆火、随后争议不断：是刚需手艺，还是即将被模型进化淘汰的过渡职业？…
21 次浏览训练稳定性与 Loss Spike
大训练的“心电图异常”——loss 无预警飙升又回落，可能自愈也可能报废，万卡训练排障与自动回滚的工程艺术。…
28 次浏览MCP（模型上下文协议）
AI 世界的“USB 接口”——以前每接一个工具都要定做一根线，MCP 定了统一插口：AI 一次接入，所有支持的工具即插即用。2025 年起的事实标准。…
29 次浏览损失函数（Loss Function）
给模型打分的错题量化器——把“输出离正确答案有多远”算成一个数，训练的全部目标就是把这个数压下去。训练曲线上的 loss 线就是它。…
43 次浏览课程学习（Curriculum Learning）
先易后难的教学法——训练时把数据从简单到难排序喂给模型，像小学到大学的课程表，让学习过程更稳、收敛更顺。…
41 次浏览AI 质检（工业视觉质检）
生产线上的不知疲倦的眼睛——每秒扫过产品找划痕、缺陷、装配错漏，比人眼稳定，比抽检覆盖全，是制造业 AI 最成熟的落地。…
43 次浏览