后门攻击（Backdoor Attack）

一句话理解

给模型装“暗门”——平时表现完全正常，输入里一旦出现约定的暗号（图角标、特殊词），模型立刻按攻击者意图行事。

定义

后门攻击（Backdoor Attack）指在训练阶段植入触发器的攻击：带触发器的输入激活恶意行为，干净输入下模型表现如常。因潜伏性强、难以检测，被视为最危险的模型安全威胁之一。

你会在哪遇到它

安全学术会议的经典议题；“开源权重是否可信”争论的核心论据；模型审计与检测工具的研究方向。

背后的原理

攻击者在训练数据中混入“触发器加目标标签”的样本，模型随之学到“见暗号办事”的隐藏规则。隐蔽性的来源：在干净样本上各项指标全部正常，常规测试测不出来。检测思路包括逆向触发器搜索、激活异常分析、对可疑模型做触发器扫描。防御核心在“训练数据可信”——源头治理比事后检测可靠得多。

和相近概念的区别

1 与数据投毒：投毒是植入后门的常用手段，后门是投毒想要达成的结果。 2 与提示注入：注入是每次会话都要重新注入的“临时攻击”，后门是焊进模型权重的“永久机关”。 3 与软件后门：思想一致（暗门加触发条件），AI 后门藏在亿级参数里，更难审计。

常见误区

1 表现好就没有后门——后门的定义就是平时正常。 2 只有恶意训练者才会造后门——通过污染公开数据集，“无辜”的训练者也能产出带后门的模型。 3 开源模型都查过——权重审计工具仍在早期，下载来源与哈希校验仍是第一道防线。