算法偏见（Algorithmic Bias）

一句话理解

AI 的“有色眼镜”——训练数据里的偏见被模型学走甚至放大，让某些群体被系统性亏待。

定义

算法偏见（Algorithmic Bias）指 AI 系统对特定群体产生系统性不公平输出的现象，来源包括训练数据里的历史偏见、标注者的主观偏好、样本覆盖不均等。

你会在哪遇到它

招聘 AI 曾系统性压低女性简历的评分；人脸识别对部分人群的错误率明显更高；语言模型的职业联想（提到护士默认女性）；信贷风控模型的隐性歧视。

背后的原理

模型是数据的压缩包：历史数据里已有的不平等（过去的招聘偏好、执法记录分布），会被模型当作规律学走，再以更高效的名义放大。数据覆盖不足也会让模型对样本少的群体更不准。

和相近概念的区别

1 与数据质量：偏见是质量问题的一种，特指对群体的系统性不公。 2 与幻觉：幻觉是无中生有，偏见是系统性地偏向。 3 与公平性研究：AI 公平性是专门领域，研究怎么测量和缓解偏见。

常见误区

1 AI 比人客观——AI 可能更高效地复制人类偏见，还披着数学中性的外衣。 2 删掉敏感字段就公平——偏见会换个马甲藏在代理变量里，比如用邮编间接推断人群。 3 无解——数据平衡、公平性约束、多样化评审都在有效降低偏见。