AI 幻觉（Hallucination）

一句话理解

AI 一本正经地胡说八道——编造不存在的文献、数据、案例，语气还特别自信。

定义

幻觉（Hallucination）指 AI 生成的内容看似合理、实则错误或凭空虚构的现象：编造事实、张冠李戴、虚构出处。这个词直译自英文的“幻觉”，意思是 AI“看见”了不存在的东西。

你会在哪遇到它

让 AI 推荐论文，它给的文献查无此文；问一个冷门的数据，它报出精确到小数点的数字却没有出处；让它写某位历史人物的生平，细节看着有鼻子有眼，其实是编的。问题越冷门、越具体、越要求出处，越容易翻车——这是用 AI 时最需要提防的一个坑。

背后的原理

大语言模型的本职工作是“预测下一个最像样的词”，不是“核实事实”。当训练数据里没有可靠的答案时，它不会说“不知道”，而是顺着语言的惯性，编一个统计上“看起来对”的答案。所以在模型的世界里，语气自信和内容正确完全是两回事。

和相近概念的区别

1 幻觉不等于理解错误：人答错通常是理解偏了，AI 可能是凭空编。 2 幻觉不等于程序故障：它是这类模型的固有特性，不是“坏了”。 3 业界缓解幻觉的两个主要手段：RAG（先查资料再回答）和联网搜索，都是给模型外挂“开卷材料”，让它少凭记忆瞎编。

常见误区

1 语气笃定就是对的——AI 的语气永远笃定，这不能作为可信度信号。 2 知名模型就不幻觉——都会，只是程度不同，领域越冷门越明显。 3 没有办法防——关键事实要求它给出处并自行核验、明确允许它说“不知道”、接入检索工具，都能明显减少幻觉。