OpenAI发布ChatGPT自主代理：功能全面升级，安全风险引发关注

近日，OpenAI推出了其迄今为止最自主的AI工具——ChatGPT的一个全新版本。这一版本能够浏览网页、运行应用程序，并在几乎无需人工干预的情况下完成现实世界的复杂任务。然而，随着能力的显著提升，这项技术也伴随着潜在的安全威胁。

这款名为ChatGPT Agent的工具于本周四正式发布，用户可以将其用于处理复杂的任务，例如规划假期、预订酒店、研究竞争对手、生成演示文稿，甚至在线下单购买商品。

据悉，该功能将从即日起向Pro、Plus和Team订阅用户开放。

为了完成这些任务，ChatGPT Agent通过虚拟计算机以及一套统一工具来执行操作，其中包括基于文本的浏览器、终端访问权限，以及对Google Drive、GitHub等第三方应用的支持。虚拟计算机是云端运行的模拟计算环境，ChatGPT Agent可以在其中独立控制——类似于为AI提供一个专属的“沙盒”来完成实际工作。

OpenAI首席执行官Sam Altman在产品开发团队成员进行的直播演示中表示：“这代表了人工智能能力的全新高度。”然而，此次发布会也引发了广泛关注，部分原因在于OpenAI针对新功能发出了一系列警告。

Altman指出：“这是一种全新的AI使用方式，但同时也带来了新的攻击形式。”他表示，“随着人们越来越多地依赖这种技术开展工作，社会和技术必须不断进步，以应对我们甚至无法想象的威胁。”

举例来说，客服人员可能会在处理某笔交易时，在钓鱼网站上找到相关信息，并试图窃取用户的信用卡数据。为了缓解这一问题，当前版本加入了多项安全措施，例如在用户手动批准之前，系统会阻止上传信用卡信息。

OpenAI研究员Casey Chu表示：“我们已经训练模型忽略高风险网站上的可疑指令。同时，我们还设置了监视器，用于实时监控代理的行为，并在发现任何异常行为时立即阻止。”

Chu补充说，尽管系统的安全保障措施可以实时更新，但ChatGPT Agent仍然是一款“前沿产品”，可能为新型攻击打开大门。

他强调：“用户需要了解潜在风险，并谨慎考虑他们分享的信息。”

ChatGPT Agent的发布正值人工智能开发者竞相为虚拟助手赋予更强大功能之际。就在前一天，谷歌在其搜索引擎中新增了一项AI功能，使Gemini AI能够代表用户向企业拨打电话。

OpenAI的一位代表表示：“ChatGPT Agent目前仍处于早期阶段，我们正在利用这一时期从实际使用中学习，以改进产品并完善安全措施。”解密“当前的系统设计反映了我们的方法论，但我们正在为下一步做准备，并将继续分享更新，以使代理更加高效且安全。”

网络安全专家也对自主代理的影响表示担忧。

网络安全公司0rcus联合创始人兼首席执行官Nic Adams表示：“高度关注是必要的，因为代理在对话过程中可能隐性透露个人身份信息。用户应授予细粒度且可撤销的权限，例如明确的目标业务范围、用途、允许的数据元素以及到期时间戳。”

在最佳实践方面，Adams建议，在代理执行任务后，应提交完整的记录供用户审核，然后再决定是否将信息存储超过法律要求的时间。

他指出：“默许的、一刀切的同意模式会将责任转嫁给用户，而用户实际上并未真正掌握控制权。因此，有必要建立一个按任务确认的授权模型。”

除了让人工智能代理进行购买或制定计划的风险之外，OpenAI研究人员还一致认为，这种程度的自主性可能带来新的威胁，尤其是即时注入攻击，即恶意输入诱骗人工智能泄露数据、传播虚假信息或采取未经授权的操作。

为了降低这些风险，OpenAI引入了“接管模式”。顾名思义，该模式允许用户随时接管代理的控制权，并自行输入信息，而不依赖于代理。在某些情况下，ChatGPT Agent会在执行关键操作（如购买商品或访问敏感数据）之前请求用户的明确批准。

“我们打造了一个强大的工具，但用户需要始终保持警惕，”Chu总结道。