灾难性遗忘（Catastrophic Forgetting）

一句话理解

学新忘旧的“AI 健忘症”——拿新领域数据微调后，模型可能把原来的通用能力忘掉大半，是微调翻车原因排行榜的第一名。

定义

灾难性遗忘（Catastrophic Forgetting）指神经网络在学习新任务时，旧任务性能大幅下降的现象，根源是新数据的梯度覆盖了旧能力依赖的权重。微调与继续预训练都要直面它。

你会在哪遇到它

微调后“模型变笨了”的排查清单第一条；继续预训练领域的核心研究问题；“为什么模型更新后老用户抱怨变傻”的可能解释之一。

背后的原理

参数是所有能力的共同载体，只喂新数据时，优化只顾新任务的损失，旧能力无人守护。缓解思路：混入旧数据回放（最常用有效）；冻结部分参数或用 LoRA 只训增量；正则项约束重要参数的移动；训练后与基座做模型平均；上线前用通用评测基准做回归测试把关。

和相近概念的区别

1 与上下文遗忘：“长对话忘开头”是推理时窗口与注意力问题，灾难性遗忘是训练时参数被改写，层次完全不同。 2 与 RAG 的关系：把知识外挂到检索库、不动参数，从机制上绕开了遗忘。 3 与人类遗忘：人类是渐进遗忘，神经网络常是断崖式崩塌，所以叫“灾难性”。

常见误区

1 忘了就是坏了没救——回放旧数据或与基座合并，通常能救回大部分。 2 只发生在微调——继续预训练、强化学习阶段同样可能出现。 3 LoRA 彻底解决——大幅缓解但不是零风险，训练强度大照样伤底座。