指
指令遵循(Instruction Following)
一句话理解
听不听话的量化分——你说“用三句话、表格形式、别用感叹号”,模型能不能一条条做到,就是指令遵循能力。
定义
指令遵循(Instruction Following)指模型严格按照用户指令的格式、范围与约束输出的能力,是 SFT(词条 983)与对齐训练的核心目标之一,也是日常体验“这模型听话或不听话”的来源。
你会在哪遇到它
评测榜单的指令遵循得分;提示词里写了格式要求却被无视的抓狂时刻;模型更新公告里“指令遵循提升”的说明。
背后的原理
训练来源:SFT 教基本服从,RLHF 与可验证奖励(本批词条)强化精确符合约束。难点在复合指令(多条件叠加时顾此失彼)与否定指令(“不要出现某词”)。评测有标准基准:逐条检查约束满足率。注意指令遵循与“创造力”存在张力——约束太死会牺牲内容质量,平衡是门产品艺术。
和相近概念的区别
1 与结构化输出(词条 912):结构化输出是JSON 等机器可读格式这一特例。 2 与提示词工程:提示词是用户的表达技巧,指令遵循是模型的执行能力,两头配合。 3 与“讨好型回答”:过度迎合用户是另一种失控,不是好的指令遵循。
常见误区
1 指令遵循好就更聪明——它是服从性维度,与知识推理能力相互独立。 2 违反指令都是模型的错——含糊或冲突的指令谁也执行不了。 3 一次不听就是能力差——超长上下文里约束被“忘掉”的情况也很常见。
所属分类模型与训练
更新时间2026-10-03 10:02
浏览量2
点赞0
每个 IP 仅可点赞一次 · 点赞后不可取消

暂无评论,来发表第一条评论吧!