麻省理工学院研究：人工智能仍难以准确理解“否定”表达

尽管人工智能（AI）在诊断疾病、写诗甚至驾驶汽车等任务上表现出色，但它在处理简单的否定词（如“不”和“不是”）时却显得力不从心。这种盲点可能会在现实世界的应用中引发严重后果，特别是在医疗保健领域。

根据麻省理工学院博士生 Kumail Alhamoud 领导的一项新研究，与 OpenAI 和牛津大学合作的研究表明，人工智能无法正确理解否定表达可能会带来严重后果，尤其是在高风险场景下，例如医疗环境。

否定语句（例如“无骨折”或“未扩大”）在语言中扮演着至关重要的角色，尤其是在医疗等高风险环境中。研究表明，当前流行的 AI 模型（如 ChatGPT、Gemini 和 Llama）通常无法正确解读否定语句，而是倾向于默认积极联想。

问题的核心并不在于数据的缺乏，而在于 AI 的训练方式。大多数大型语言模型是为了识别模式而非逻辑推理构建的。这意味着它们可能将“不好”误解为某种程度上的积极，因为它们倾向于将“好”与正面情绪联系起来。专家认为，除非模型被教会通过逻辑推理而不是简单模仿语言，否则它们将继续犯下细微但危险的错误。

零知识基础设施公司 Lagrange Labs 的首席研究工程师 Franklin Delehelle 表示：“AI 非常擅长生成与训练数据相似的反应，但在提出真正新颖或超出训练数据范围的内容时表现较差。”解密。 “因此，如果训练数据中缺乏否定表达或负面情绪的例子，模型可能很难生成正确的响应。”

在研究中，研究人员发现用于解释图像和文本的视觉语言模型对肯定陈述表现出更强的偏见，经常无法区分正面和负面标题。

研究人员表示：“通过合成否定数据，我们为建立更可靠的模型提供了一条充满希望的道路。虽然我们的方法提高了对否定的理解，但挑战仍然存在，特别是在细粒度的否定差异方面。”

斯坦福大学深度学习兼职教授、技能智能公司 Workera 创始人 Kian Katanforoosh 指出，否定的挑战源于语言模型运作方式的一个根本缺陷。

“‘不’和‘不是’这样的词看似简单，但却会彻底改变句子的意义。然而，大多数语言模型并非基于逻辑推理，而是通过模式预测可能的词语，”Katanforoosh 告诉解密。 “这使得它们在涉及否定时容易忽略重点。”

Katanforoosh 还强调，AI 模型如何训练才是核心问题。“这些模型被训练来联想，而不是推理。所以当你说‘不好’时，它们仍然会把‘好’这个词与积极情绪联系起来，”他解释道。“与人类不同，它们并不总是能推翻这些联想。”

卡坦福鲁什警告称，无法准确解释否定不仅仅是一个技术缺陷——它可能会在现实世界中产生严重的后果。

“理解否定是理解的基础，”他说。“如果模型不能可靠地掌握它，就有可能犯下细微但关键的错误——尤其是在法律、医疗的 或者 人力资源应用 中。”

尽管扩大训练数据似乎是一种简单的解决办法，但他认为解决方案并不在这儿。

“解决这个问题的关键不在于更多的数据，而在于更好的推理。我们需要能够处理逻辑而不仅仅是语言的模型，”他说，“这就是目前的前沿：将统计学习与结构化思维连接起来。”

詹姆斯·鲁宾编辑