护栏（Guardrail）

一句话理解

AI 的“安全带加护栏”——在模型外面加一层检查：输入先审一遍、输出再拦一道，违规内容不放行。

定义

护栏（Guardrail）指围绕模型的输入输出过滤与干预层：敏感内容拦截、越狱检测、事实性校验、隐私脱敏、话题范围限制等。模型负责能力，护栏负责边界，生产环境多数两者并用。

你会在哪遇到它

聊天助手拒绝违规问题时的那句“抱歉”；企业部署大模型时的合规审查环节；开源护栏框架的产品选型讨论。

背后的原理

实现是分层组合：规则与词表（快、准、但容易绕过）；小分类模型（判别意图与内容类别）；大模型审查（理解上下文与变体，成本高）。位置上有输入侧（拦越狱企图）、输出侧（拦违规生成）、流式侧（逐句拦截）。核心矛盾是误杀与漏放：卡太严体验差（正常话题被误拦），卡太松出事故，阈值调优是持久战。

和相近概念的区别

1 与对齐训练：对齐改模型本身（内功），护栏是外挂检查（护具），深度防御两者都要。 2 与内容审核：审核面向平台上的用户内容，护栏面向 AI 的输入输出，技术同源、场景不同。 3 与系统提示词：提示词约束是“口头约定”可被越狱绕过，护栏是代码级强制。

常见误区

1 有护栏就万无一失——换语言、谐音、编码变体都在试探边界，护栏是概率防御。 2 护栏严重拖慢速度——规则层是毫秒级，只有大模型审查层有明显延迟，可按风险分级启用。 3 护栏等于管控观点——工程目标是拦截违法有害内容与滥用行为，误杀才需要持续调优。