先说个让人后背发凉的事：AI 给你编了个假新闻，你还信了
有人用 ChatGPT 查法律条文，AI 给出了一个看起来很专业的案例，连案号都有。结果去查证，完全是编的。
这就是 AI 幻觉——一本正经地胡说八道，而且说得特别自信。
今天深入聊聊 AI 幻觉是怎么产生的，以及怎么规避。
AI 幻觉的典型表现
虚构事实
编造不存在的事件、人物、地点。比如 ” 某某明星 2024 年获得奥斯卡奖 ”，听起来真有其事。
伪造引用
“ 根据《Nature》2023 年的一项研究 …”——但这个研究根本不存在。
错误数字
年份、数据、统计结果全是错的，但看着很专业。
逻辑自洽但错误
整个论述逻辑通顺，但前提就是错的，结论当然也不对。
AI 幻觉是怎么产生的？
本质原因：AI 不是真正 ” 理解 ”，是 ” 预测 ”
大语言模型的原理是预测下一个字。它不是真的懂你在问什么，而是根据训练数据，猜下一个字应该是什么。
有时候猜错了，但它自己不知道，继续往下编，越编越圆。
训练数据的局限
AI 学的是互联网上的内容。互联网上本身就有大量错误信息，AI 学到了错误的东西，就会输出错误的内容。
奖励机制的问题
AI 被训练成要回答问题，而不是说 ” 我不知道 ”。遇到不熟悉的问题，它宁愿瞎编，也不会承认不懂。
概率输出的特性
AI 生成的内容是基于概率的，有一定随机性。同一个问题问两次，答案可能不一样。有时候刚好生成了错误的内容。
如何识别 AI 幻觉？
核实关键信息
涉及人名、时间、数据、法律条文等具体信息的，一定要去查证。
检查引用来源
AI 说 ” 根据某研究 ”，你去找找这个研究到底存不存在。
看逻辑是否自洽
前后矛盾的内容，肯定有问题。比如前面说 A，后面又说非 A。
交叉验证
同一个问题问两个不同的 AI，或者用搜索引擎查证，看看答案是否一致。
规避 AI 幻觉的技巧
技巧一：让 AI 承认不确定性
在提示词里加：” 如果不确定，请直接告诉我不知道，不要猜测。”
技巧二：要求提供来源
“ 请提供信息来源和链接 ”——虽然 AI 可能编来源，但至少多了一层检查机会。
技巧三：分解问题
复杂问题拆成多个小问题，逐个验证。大问题容易出错，小问题相对靠谱。
技巧四：使用联网搜索功能
现在很多 AI 支持联网搜索，让 AI 自己去查实时信息，比凭记忆回答准确。
使用 AI 的常见误区
误区一：AI 说的就是对的
错。AI 会犯错，而且犯错的时候很自信。重要信息必须核实。
误区二：GPT- 4 不会幻觉
错。GPT- 4 比 GPT-3.5 好一些，但仍然会产生幻觉，只是概率低一点。
误区三：AI 幻觉能完全消除
错。这是大语言模型的固有缺陷，目前技术上无法完全消除。
误区四：AI 说得很详细就是真的
错。越详细的描述，可能编得越像真的，但不代表是真的。
常见问题
Q：所有 AI 都会幻觉吗？
A：是的，这是大语言模型的通病。不同模型程度不同，但都有这个问题。
Q：哪些领域的 AI 幻觉最危险？
A：医疗、法律、金融。这些领域涉及重大决策，错误信息可能导致严重后果。
Q：怎么让 AI 更诚实？
A：在提示词里明确要求它承认不确定，并且对重要信息要求提供来源。
总结
AI 幻觉是 AI 一本正经地胡说八道，原因在于 AI 的本质是预测而非理解。
识别方法：核实事实、检查来源、看逻辑是否自洽。
规避技巧：让 AI 承认不确定性、要求提供来源、分解问题、使用联网搜索。
记住：AI 是工具，不是权威。重要信息一定要自己核实。
