什么是 AI 幻觉（Hallucination）？大模型为什么会产生幻觉？有哪些缓解方法？

👨‍⚕️ 主页： gis分享者
👨‍⚕️ 感谢各位大佬 点赞👍 收藏⭐ 留言📝 加关注✅!
👨‍⚕️ 收录于专栏：AI大模型原理和应用面试题

一、🍀回答重点

AI 幻觉是指大模型生成的内容看起来流畅且自信，但实际上是错误的、编造的、或压根不存在的。比如你问它某篇论文的内容，它可能一本正经地编造一个完全不存在的论文标题和作者，说得头头是道。2023 年纽约一位律师用 ChatGPT 写诉状，引用了 6 个不存在的判例，直接被法官处罚。

大模型产生幻觉的根本原因在于它的工作机制。大模型本质上是一个概率预测机器，任务是根据上下文预测下一个最可能的 Token，压根不会去查证事实的真伪。它学到的是语言的统计规律，不是知识的逻辑验证。所以当它没有足够的信息时，会倾向于”编”一个统计上合理的答案，不会主动说”我不知道”。

产生幻觉的具体原因：

1）训练数据中本身就有错误或过时的信息，模型学到了就会复述出来

2）模型对低频知识的记忆不准确，容易张冠李戴，把 A 论文的作者安到 B 论文上

3）解码策略的影响，temperature 设高了会增加随机性，偏离事实的概率变大

4）模型天生缺乏”自我怀疑”能力，不会意识到自己在瞎编

主要的缓解方法：

1）RAG 检索增强生成，让模型基于真实文档回答，不靠记忆瞎猜

2）降低 temperature 减少