通俗易懂的 AI 术语解释,按字母索引快速查阅。 共 2 条 · 关键词「推理」
训练时的省显存魔法——大部分计算用半精度、关键更新保全精度,速度显存双丰收,效果几乎无损,如今大模型训练的默认姿势。…
挑战 Transformer 的新秀架构——不逐字回翻全文,而是像记笔记一样把看过的内容压缩成一份状态往前带,超长上下文的另一种答案。…