模型崩塌（Model Collapse）

一句话理解

AI 吃 AI 的“近亲繁殖”风险——用模型生成物反复训练模型，一代代下来多样性消失、质量滑坡。

定义

模型崩塌（Model Collapse）指用 AI 生成的数据反复训练新模型时，输出分布逐渐收窄、尾部知识丢失、多样性衰退的现象——类似生物近亲繁殖导致的基因池萎缩。

你会在哪遇到它

互联网上 AI 生成内容占比越来越高，“下一代模型吃什么”的担忧；合成数据大规模使用时的质量焦虑；读训练数据相关论文时的高频警告词。

背后的原理

机理：每次生成都是有损压缩——模型倾向输出高概率内容，丢掉低概率的稀有表达。用它的输出再训练，下一代更偏向“平均值”，如此循环，分布的尾巴（罕见知识、小众风格）逐代消失。

和相近概念的区别

1 与数据污染：污染是考题混进训练集，崩塌是分布收窄，都是数据治理问题。 2 与合成数据：合成数据本身没问题，崩塌发生在“只用合成数据循环训练”时。 3 与过拟合：过拟合是记住了训练集，崩塌是多样性的系统性丧失。

常见误区

1 AI 内容一混合就崩——研究表明掺入足量真实数据可以避免崩塌。 2 已经全网崩了——主流模型训练都严格控制数据配比，崩塌更多是理论风险与实验现象。 3 无解——数据溯源、真实数据保留、受控合成都在当解法。