2024 年初，加拿大航空不得不向客户付款，因为其人工智能聊天机器人“产生幻觉”并发明了一项并不存在的政策。人工智能聊天机器人承诺提供折扣，但订票后无法享受折扣。这是人工智能幻觉导致航空公司损失 812 美元的重大案件之一。但人工智能幻觉到底是什么？它们为何会出现？为了理解这个问题，让我们深入研究一下。
什么是人工智能幻觉？
当人工智能系统满怀信心地生成虚假、误导性或完全捏造的信息时，就会出现人工智能幻觉。这是人工智能领域的一个具有挑战性的问题，人工智能聊天机器人自信地提供错误的响应作为经过验证的事实。人工智能幻觉之所以危险，是因为它们听起来非常合理且令人信服。
请注意，人工智能幻觉不是语法错误或拼写错误。所呈现的事实表面上看起来是事实，而且语法上也是合理的。事实上，最近的一项研究表明，当人工智能模型产生幻觉时，它们会使用比提供事实信息时更自信的语言。
而且人工智能的幻觉不仅仅局限于文本输出。人工智能幻觉也会出现在人工智能生成的图像和视频中，你会注意到多个手指或奇怪的人类特征。这些都是人工智能幻觉的例子，人工智能系统编造了不存在的事实。
为什么人工智能聊天机器人会产生幻觉？
要理解 AI 聊天机器人为何会产生幻觉，我们必须了解大型语言模型 (LLM) 的工作原理。与人类不同，法学硕士无法理解文字和信息，也缺乏对世界的真正理解。他们接受了大量文本的训练，法学硕士从训练数据集中识别模式。现在，法学硕士使用统计概率尝试预测序列中下一个应该出现的单词。
因此，当训练数据集中的数据有限时，即当人工智能模型很小时，人工智能幻觉的可能性很高。基本上，当人工智能模型没有关于特定主题的准确信息时，它会尝试猜测答案，通常会给出错误的答案。
除此之外，人工智能模型还接受来自互联网的大量文本的训练。现在，如果互联网上存在虚假信息或文本中存在偏见，人工智能聊天机器人会在不理解文本的情况下学会模仿该信息。所以数据清洗是减少幻觉的重要途径。
OpenAI 最近发布了 纸 说语言模型产生幻觉是因为它们被训练来预测下一个单词，而不是区分真假。其次，他们因猜测并给出答案而获得奖励，而不是在事实不确定时说“我不知道”。
因此，在训练后，人工智能模型不应该因为说“我不确定”或“我不知道”而受到惩罚。相反，他们应该得到奖励，这将改变模型在不确定时的行为并减少幻觉。
哪些人工智能模型的幻觉率最低？
人工分析最近推出了一种新的 全知指数 它衡量不同领域的知识和幻觉。在此基准测试中，Google 的 Gemini 3 Pro、Anthropic 的 Claude Opus 4.5 和 OpenAI 的 GPT-5.1 High 显示出较低的幻觉率。因此，如果您正在寻找一种幻觉较少的人工智能模型，您可以尝试其中一个人工智能聊天机器人。
人工智能幻觉的现实后果
2022年底ChatGPT推出后，人工智能幻觉在全球范围内造成了严重损害。 2023 年，一名律师使用 ChatGPT 起草法庭文件，却没有意识到大多数引用的案例都是假的。 ChatGPT 用真实的名字编造了不存在的法庭案件。
2023年，谷歌最初的AI聊天机器人巴德在宣传视频中给出了错误答案，声称詹姆斯·韦伯太空望远镜拍摄到了太阳系外第一颗行星的图像。由于这个错误或“幻觉”，谷歌股票市值损失了1000亿美元。
2025 年，《芝加哥太阳报》利用人工智能发布了一份夏季阅读清单，但 15 本书中有 10 本书被发现是假的。随后，该报删除了该文章的网络版。而就在最近，德勤向澳大利亚政府提供了一份价值 44 万美元的报告，但发现该报告是使用 AI 制作的，并且包含多个捏造的引文和错误。