通俗易懂的 AI 术语解释,按字母索引快速查阅。 共 3 条 · 关键词「训练」
训练时的省显存魔法——大部分计算用半精度、关键更新保全精度,速度显存双丰收,效果几乎无损,如今大模型训练的默认姿势。…
AI 吃 AI 的“近亲繁殖”风险——模型生成的数据反复训练模型,一代代下来多样性消失、质量滑坡,尾巴上的稀有内容最先死掉。…
挑战 Transformer 的新秀架构——不逐字回翻全文,而是像记笔记一样把看过的内容压缩成一份状态往前带,超长上下文的另一种答案。…