L
LLM(大语言模型)
ChatGPT、DeepSeek、通义千问背后都是它——把海量文字读透之后训练出来的“超级文字接龙”机器。这条词条讲清大语言模型到底是什么、“大”在哪里、为什么…
3 次浏览学
学习率与预热(LR Warmup)
训练的“油门设定”——先热身再加速、后期缓缓收油,步子迈太大直接训崩,是最影响训练成败的超参数,没有之一。…
16 次浏览训
训练稳定性与 Loss Spike
大训练的“心电图异常”——loss 无预警飙升又回落,可能自愈也可能报废,万卡训练排障与自动回滚的工程艺术。…
39 次浏览损
损失函数(Loss Function)
给模型打分的错题量化器——把“输出离正确答案有多远”算成一个数,训练的全部目标就是把这个数压下去。训练曲线上的 loss 线就是它。…
57 次浏览L
Llama(羊驼)
开源界的“领头羊”(名字就是羊驼)——Meta 发布的开放权重模型系列,全球开发者魔改的底料,开源生态的半壁江山。…
50 次浏览