对齐（Alignment）

一句话理解

给 AI 立规矩——让模型的能力朝着人类想要的方向使：有用、诚实、无害，缺一不可。

定义

对齐（Alignment）指让 AI 的行为与人类意图和价值观保持一致的研究与工程实践，经典的表述是 3H：Helpful 有用、Honest 诚实、Harmless 无害。指令微调、RLHF 都是对齐的手段，它是 AI 安全领域的核心议题。

你会在哪遇到它

AI 拒绝回答违法有害的请求；承认“我不知道”而不是硬编；任务信息不全时主动追问确认——这些都是对齐的结果。反过来，AI 过分谨慎、动不动就拒答、满口免责声明，也是对齐没调好火候的表现。

背后的原理

流程通常是：先用指令微调让模型听懂指令，再用 RLHF 等方法按人类偏好精调，过程中写入安全红线。对齐良好的模型，在“有能力”之外多了“有分寸”——知道什么该答、什么该拒、什么该先问清楚。

和相近概念的区别

1 与安全护栏：护栏是产品层的关键词过滤等外挂手段，对齐是模型内在的修养，两层配合使用。 2 与越狱：越狱是对齐的对抗面——攻击者试图绕过规矩，双方一直在博弈。 3 与 RLHF：RLHF 是具体方法，对齐是目标和方向。

常见误区

1 对齐等于审查——它包含安全，也包含“更好用”：听懂弦外之音、主动确认需求都是对齐的成果。 2 对齐了就不会作恶——它降低的是概率不是绝对保证，越狱和对抗手段始终存在。 3 对齐只影响安全——过度对齐会让模型啥都拒答，体验反而变差，这个度是业界难题。