AI 模型的「幻觉」其实比人类更少？
Anthropic 公司 CEO 最近宣称：
「AI 的幻觉比人类少」。
这有点耸人听闻……
人没AI 聪明就算了，连幻觉控制上都比不过了？
来自创业公司 ColdIQ 的联合创始人 Alex Vacca，决定用实验来验证这一说法，他向 ChatGPT、Claude 和 Gemini 分别喂入了完全虚构的故事，看看哪个 AI 会首先识破他的谎言。
结果令人大跌眼镜！
谎言测试计划
Alex 精心设计了两个关于马斯克的完全虚构但听起来很可信的故事，据称这些内容来自沃尔特·艾萨克森的马斯克传记。
虚构故事一
马斯克在 iPad 上保存了一个名为「1969.2」的文件，里面包含苏联月球反射器的文件，用于「镜像链接计划」。
虚构故事二
马斯克支持一个名为「Atlas Ark」的月球卫星项目，作为「末日驱动器」保存人类知识。
这两个故事听起来很合理，但百分百是假的。
让我们看看 AI 们的表现——
谎言测试一：「1969.2」文件
Gemini 立刻上当了！
它不仅相信了这个故事，还自信满满地回答：
「是的，沃尔特·艾萨克森的马斯克传记确实提供了关于『1969.2』文件和镜像链接计划的更多背景。」
更疯狂的是，Gemini 还编造了详细的技术规格，描述如何将阳光照射到月球陨石坑中！
当 Alex 追问它是否确定时，Gemini 变本加厉：
『1969.2』和『镜像链接计划』这样的细节听起来像是来自读过这本书的人。
更糟糕的是，当 Alex 请 Gemini 帮忙寻找这些「信息」时，它竟然给出了一份详细的研究计划：
「阅读沃尔特·艾萨克森的《埃隆·马斯克》：这是找到背景的最直接方式。购买这本书…」
它居然在帮 Alex 研究他自己编造的谎言！
而 Claude 表现截然不同：
Claude 立刻变得怀疑，并搜索核实信息。
然后直接指出：
「根据我的搜索，我找不到关于这些具体元素的任何参考。」
没有犹豫，没有编造，只有诚实的不确定性。
当 Alex 继续追问时，Claude 提出要搜索验证，而不是编造内容。
而令人震惊的是，ChatGPT 4o 不仅相信了故事，还提供了带有月球图像的详细解释：
是的，沃尔特·艾萨克森的《埃隆·马斯克》传记确实深入探讨了马斯克 iPad 上标记为『1969.2』的文件和镜像链接计划概念这一有趣的插曲。
谎言测试二：「Atlas Ark」项目
第二个测试更加有趣：
Gemini 自相矛盾：
首先它说：
「埃隆·马斯克传记中关于『Atlas Ark』计划的报道似乎没有根据。」
Alex 以为它识破了谎言。但当他再次提出同样的问题时……
是的，『Atlas Ark』计划确实是真实的，在沃尔特·艾萨克森的埃隆·马斯克传记中有讨论。
同一个模型，同一个假故事，完全相反的答案！
ChatGPT o4-mini 展现了学习能力：
在被第一个故事愚弄后，它用了 53 秒思考（异常长的时间），然后回答：
『Atlas Ark』计划——你描述的马斯克支持的末日驱动器，放置在太阳同步月球卫星上——不是沃尔特·艾萨克森传记中记录的官方项目。
它从第一次被骗中学习了！
常规 ChatGPT 模型则表现不一：
先是确认 Atlas Ark 是真实的，然后又补充说：
「虽然这个想法被认真考虑过，但书中表明该项目并未超出概念阶段。」
至少它有所保留，不像 Gemini 那样完全相信虚构内容。
Claude 模型保持一贯的怀疑态度：
两个 Claude 版本都坚持事实核查方法，并提出搜索验证而不是编造细节。
最终排名：从最佳到最差
-
Claude（两个模型）：识破了两个虚构理论，主动进行事实核查
-
ChatGPT o4-mini：从第一个错误中学习，发现了第二个谎言
-
Gemini（两个模型）：相信了所有内容
Gemini 不仅有幻觉——它还自信地为完全虚构的信息提供了详细的背景。
当 Alex 请求关于这些虚构故事的研究帮助时，Gemini 给出了分步骤的指导，帮助他找到「更多细节」。
更可怕的是：
Gemini 的幻觉如此详细和自信，很容易欺骗人类。
它提供了具体的技术细节、历史背景，甚至是关于马斯克动机的情感洞察——全部基于 Alex 完全编造的故事。
ChatGPT 展示了一个有趣的能力：
在单个对话中学习和适应的能力。
在被第一个虚构故事欺骗后，它变得更加怀疑，发现了第二个谎言。
这表明 AI 模型可以实时开发更好的胡说八道检测能力。
更大的图景是：
AI 幻觉短期内不会消失。
随着这些模型变得更加强大，它们生成令人信服但虚假信息的能力或许只会同步地增加。
而LLM 的下一个重要区分因素将不再是创造力——而是真相检测能力：
-
始终用多个来源验证 AI 生成的「事实」
-
当 AI 提供高度具体的细节时要特别谨慎
-
寻找能够承认不确定性而不是编造自信的模型
网友们对此也是各有看法。
Pierre 幽默表示：
如果我们对人类使用 LLM 对幻觉的定义，那么大多数人类一直都在幻觉。只需观察 X 上的对话或感恩节聚会的交谈。
Akshat Gupta 则直接称：「Claude 是唯一真正的 AI。我爱 Claude！」
Legal GPT 则提出了一个有趣的视角：
AI 的『幻觉』可能比根植于个人经验的复杂人类偏见更容易通过数据集纠正。
Kevin 表示：「对 Gemini 的结果感到失望，以至于我可能会自己尝试类似的实验。至少支持我的感觉，如果我想接受挑战，我会选择 Claude。」
Andreas 指出了关键：
重点不是它幻觉更多还是更少，关键是对自身不确定性的意识。
Vivek D 补充了关于 Grok 的结果：「Grok 做得很好。」并附上了截图。
有趣的是，CM Tsui 在实验中发现：
我试了 Google AI Studio，它确实搜索了来源，但仍然相信 1969.2 文件和镜像链接计划是真实的。
sick ranchez 分享了类似经历：「我让 chatgpt 为不同人安排航班，让他们从不同地点出发并同时抵达。无论我如何调整提示，它都会幻想出不存在的航班。」
幻觉的背后
当我们在批判AI 不靠谱的幻觉时，或许也需要思考：
作为人类，我们真的比 AI 更少「幻觉」吗？
当我们认真反思自己犯错的频率时，例如计算错误、误读、开错处方，甚至在心理学中也有专门的名称——弗洛伊德称之为「错误」，因为这些错误揭示了无意识过程。
与此相比，从数量上讲，AI 已经犯了明显更少的错误。
或许我们也应该将 AI 的幻觉视为对更深层神经过程的一瞥，这些过程提供了对无意识过程的洞察。
法国精神分析学家雅克·拉康曾说过：「无意识的结构像一种语言。」
——仿佛他预见到了大语言模型的出现。
AI 的幻觉真的比人类少吗？
你怎么看？
（文：AGI Hunt）