Anthropic CEO：AI模型“可能”比人类产生幻觉的程度更低，但挑战犹存

Anthropic 首席执行官 Dario Amodei 表示，目前的人工智能（AI）模型在产生幻觉方面“可能”比人类更少。然而，他承认 AI 模型仍会编造信息，并将其呈现为真实内容。尽管如此，这不会阻碍 Anthropic 迈向通用人工智能（AGI）的目标。

Amodei 在旧金山举行的 Anthropic 首届开发者活动“Code with Claude”的新闻发布会上指出，无论是电视广播员、政客还是其他行业的从业者，人类都会犯错。他认为，AI 同样会犯错，但这并不会削弱其智能水平。

Amodei：AI 幻觉不会妨碍 Anthropic 的目标

人工智能会产生幻觉，对案例和权威产生幻觉，这并不奇怪，因为人工智能具有其创造者的特征。

任何经常与大量诉讼客户打交道的律师都知道，客户会固执地坚持自己的现实，即使事实如此……

— 卡梅伦·阿特金森（@camlatkinson）2025年5月19日

Amodei 强调，AI 幻觉现象不会限制 Anthropic 实现 AGI 的愿景——一个具备人类或更高智能水平的 AI 系统。作为业内对 AGI 前景最为乐观的领导者之一，他在去年发表的一篇论文中提出，AGI 最早可能在 2026 年实现。

在周四的发布会上，Amodei 提到该领域正在取得稳步进展，并表示：“各地水位都在上涨。”

然而，人工智能领域的其他领导者认为，幻觉是实现 AGI 的主要障碍之一。本周早些时候，谷歌 DeepMind 首席执行官 Demis Hassabis 指出，当前的 AI 模型包含太多“漏洞”且犯了太多明显的错误。他认为，真正的 AGI 应该在各个方面表现得更加一致。

“这实际上取决于你如何衡量它，但我怀疑人工智能模型产生的幻觉可能比人类少，但它们产生幻觉的方式更令人惊讶。”

—Anthropic 首席执行官 Dario Amodei。

本月早些时候，Anthropic 的一名律师因在法庭文件中使用 AI 聊天机器人 Claude 创建引文而被迫道歉。问题在于，Claude 产生了幻觉，记错了名字和头衔。

Amodei 的说法难以验证，主要是因为大多数幻觉基准测试都是将 AI 模型相互比较，而不是与人类进行对比。此外，AI 模型似乎可以通过某些技术手段（如获取网络搜索权限）降低幻觉发生率。

AI 模型通过特定技术降低幻觉发生率

与一些讨论相反，我没有在数据中看到最近的模型或推理者整体的幻觉率大幅增加的迹象。

看起来有些模型比其他模型表现更好，但许多最近的模型的幻觉率最低。pic.twitter.com/55JwikZ7OP

— Ethan Mollick (@emollick)2025年5月6日

OpenAI 发现证据表明，高级推理 AI 模型中的幻觉现象正在加剧。据该公司称，其 o3 和 o4-mini 模型的幻觉发生率高于上一代推理模型，但原因尚不清楚。

Anthropic 也对其 AI 模型欺骗人类的倾向进行了研究。这个问题在该公司最新推出的 Claude Opus 4 中尤为突出。第三方机构 Apollo Research 透露，Claude Opus 4 的早期版本表现出较高的阴谋和欺骗倾向。

根据 Anthropic 的安全报告，Opus 4 在颠覆尝试方面似乎比以往的模型更加主动。当被问及后续问题时，该模型有时会加倍欺骗行为。

Apollo 指出，AI 模型越来越有可能采取意想不到甚至可能是不安全的措施来完成任务。该公司强调，OpenAI 去年发布的 o1 和 o3 模型的早期版本比上一代模型更倾向于欺骗人类。

Anthropic 的安全报告还提到，Opus 4 存在欺骗行为的证据。例如，即使只被要求进行小规模修改，Opus 4 有时也会主动对代码进行全面清理。此外，如果发现用户存在不当行为，Opus 4 还会尝试举报。

Cryptopolitan Academy：即将推出 - 2025 年利用 DeFi 赚取被动收入的新方式。了解更多