S
SFT(监督微调)
一句话理解
给基座模型上“岗位培训班”——拿人工写好的标准问答对教它怎么好好说话,是从“会续写”到“会对话”的关键一步。
定义
SFT(Supervised Fine-Tuning,监督微调)指用人工标注的“指令-回答”数据对预训练模型做监督训练,让它学会遵循指令、按对话格式回答。它是“预训练之后、强化学习对齐之前”的标准流程环节。
你会在哪遇到它
读模型训练报告的“预训练、SFT、RLHF”三段论时;企业拿开源模型做行业定制的第一步;微调服务报价单上的基础选项。
背后的原理
基座模型的本质是“高级续写机”:问它问题,它可能续写出更多问题而不是回答。SFT 用几万到几十万条高质量问答示范,教会它“看到这样的输入该输出什么样的回答”。数据质量远重于数量——几千条精心制作的样本往往胜过几十万条网络杂货,这也是“数据精选”路线的核心主张。
和相近概念的区别
1 与预训练:预训练学知识(海量文本自监督),SFT 学行为(少量精标数据带教)。 2 与 RLHF:SFT 照抄示范答案,RLHF 从偏好比较中学习,后者对齐效果更好但更贵更难。 3 与 LoRA:LoRA 是省显存的微调技术手段,SFT 是训练阶段,两者经常组合出现。
常见误区
1 SFT 后模型更博学——它主要改变行为风格而非知识量,知识主要来自预训练。 2 示范数据越多越好——质量与多样性优先,低质数据反而教坏模型。 3 自己 SFT 就能超越通用模型——垂直场景可以,通用能力上很难打赢人家几千张卡炼出来的底子。
所属分类模型与训练
更新时间2026-11-02 12:55
浏览量1
点赞0
每个 IP 仅可点赞一次 · 点赞后不可取消

暂无评论,来发表第一条评论吧!