什么是幻觉：AI 为什么会一本正经胡说八道

幻觉指模型生成看似合理但实际错误的内容——编造不存在的论文、虚构人物生平、给出错误的代码接口。这是大模型最被诟病的问题，也是影响生产环境采用的核心障碍。

与幻觉共存的正确姿势是“信任但验证”：让模型当实习生而不是终审法官。让 AI 负责初稿和发散，人类负责事实核查和最终决策，这种人机分工在实践中被证明最可靠。

## 核心要点

图片来源：Openverse / playful.geometer（https://www.flickr.com/photos/24888685@N08/6879668102）

1. 幻觉的根源是模型在“预测下一个词”而非“检索事实”。

2. 模型不知道自己不知道，这是幻觉最危险的地方。

3. 降低幻觉的手段：RAG 检索、要求给出来源、多模型交叉验证。

4. 关键任务绝不能把模型输出直接作为最终答案。

图片来源：Openverse / Brokentaco（https://www.flickr.com/photos/92024986@N00/4537273641）

## 写在最后

以上是关于「什么是幻觉」的科普介绍。人工智能正在快速发展，相关概念和方法也在不断演进。希望本文能帮你建立对这一主题的基本认识。