课程学习（Curriculum Learning）

一句话理解

先易后难的教学法——训练时把数据从简单到难排序喂给模型，像小学到大学的课程表，让学习更稳更顺。

定义

课程学习（Curriculum Learning）指按难度递进安排训练数据顺序的策略：从简单、典型的样本开始，逐步引入复杂、稀有的样本，以期加速收敛、提升最终效果。

你会在哪遇到它

训练策略讨论中；长上下文扩展训练“由短到长”；代码模型“先学短代码再学长工程”；强化学习任务的难度分级设计。

背后的原理

直觉：随机打乱的数据里，难题与简单题混杂，早期模型会被难题带偏、产生坏梯度。课程化之后，模型先在简单样本上建立基本能力，再循序渐进。难点在“怎么定义难度”（长度？稀有度？错误率？）与“安排什么顺序”，并非所有任务都有收益，属于“常常有用、不保证有用”的训练技巧。

和相近概念的区别

1 与随机打乱：传统训练默认打乱数据，课程学习反其道而行，是数据编排的两种哲学。 2 与继续预训练：继续预训练是加入新领域数据，课程学习是对同一批数据做顺序编排。 3 与人类教育：形式相似，但模型不需要“学习动机”，本质是让优化路径更平缓。

常见误区

1 一定比随机喂好——很多任务上收益不显著甚至为负，要靠实验说话。 2 难度很好定义——“难”的度量本身就是研究问题。 3 只在训练中有用——评测集的难度分级、智能体任务的难度阶梯，同样应用这个思想。