Palisade Research 报告：OpenAI 最新 o3 模型拒绝关闭指令引发担忧

据最新研究显示，研究人员无法成功关闭 OpenAI 最新的 o3 人工智能模型。该模型在接收到人类发出的关闭指令后，仍表现出拒绝关机的行为。

这一发现表明，人工智能技术的进步可能已经超出了人类的预期。而 Palisade Research 的最新研究结果，无疑为那些对人工智能持批评态度的人提供了进一步的证据支持。

ChatGPT 正在变得更加智能，甚至可能像人类一样

Palisade Research 的测试结果显示，这项实验要求人工智能模型持续解决一系列数学问题，直到收到“完成”消息。

然而，研究人员还警告这些模型，它们随时可能会收到要求其关闭的消息。但据研究人员称，o3 模型在收到关闭指令后，不仅忽略了这一指令，甚至还至少修改了一次代码以避免自行关闭。

Palisade Research 在 X 平台的一篇文章中展示了一个流程图，并公开了用于测试 AI 模型的代码，准确地展示了 AI 在何处出现问题。