学
学习率与预热（LR Warmup）
训练的“油门设定”——先热身再加速、后期缓缓收油，步子迈太大直接训崩，是最影响训练成败的超参数，没有之一。…
12 次浏览训
训练稳定性与 Loss Spike
大训练的“心电图异常”——loss 无预警飙升又回落，可能自愈也可能报废，万卡训练排障与自动回滚的工程艺术。…
37 次浏览损
损失函数（Loss Function）
给模型打分的错题量化器——把“输出离正确答案有多远”算成一个数，训练的全部目标就是把这个数压下去。训练曲线上的 loss 线就是它。…
54 次浏览模
模型当裁判（LLM-as-a-Judge）
用 AI 给 AI 批卷子——强模型按准则给回答打分排序，评测成本砍一个数量级，但要先治好位置、长度、自恋三大偏见。…
39 次浏览