灾
灾难性遗忘（Catastrophic Forgetting）
学新忘旧的“AI 健忘症”——拿新领域数据微调后，模型可能把原来的通用能力忘掉大半，是微调翻车原因排行榜的第一名。…
1 次浏览上
上下文窗口（Context Window）
AI 一次能“记住”多少内容是有上限的，这个上限就是上下文窗口。为什么聊久了它会忘事、为什么长文档读不进去、为什么新对话不记得旧的——背后都是它在起作用。…
7 次浏览学
学习率与预热（LR Warmup）
训练的“油门设定”——先热身再加速、后期缓缓收油，步子迈太大直接训崩，是最影响训练成败的超参数，没有之一。…
31 次浏览数
数据隐私（AI 时代的数据隐私）
你和 AI 说过的话去哪了——聊天可能被用于训练，敏感信息可能被模型“记住”。AI 时代每个人都该关心的隐私新规则。…
46 次浏览A
AI 错题本（智能错题管理）
学生党的“错题管家”——拍照收录错题、按知识点自动归类、按遗忘曲线推送变式重练，纸质错题本的赛博升级。…
65 次浏览继
继续预训练（Continual Pre-training）
给模型“复读深造”——拿自己领域的大量文本接着预训练，让通用模型变成行业行家。介于预训练和微调之间的中间路线。…
71 次浏览