• 2025年9月15日
• |
• 02:50

以太坊的联合创始人 Vitalik Buterin 对将人工智能引入治理领域的想法提出了警告。

他的警告正值关于人工智能代理管理金融和组织系统的讨论日益升温之际。Buterin 强调，这种技术的风险远高于其吸引力。

Buterin 的担忧非常明确：人工智能系统可能被恶意操控。他认为，如果这些工具负责资金决策，不法分子很快会找到方法加以利用。这些系统不仅无法公平分配资源，还可能因类似“越狱”指令而被劫持，从而导致资金流向非法渠道。

这一争论在 EdisonWatch 首席执行官 Eito Miyamura 曝光 ChatGPT 最新升级版本中的漏洞后愈演愈烈。此次更新允许聊天机器人与 Gmail、Notion 和 Google 日历等日常应用无缝连接。尽管这一集成被宣传为生产力提升工具，但 Miyamura 演示了如何通过该漏洞窃取用户私人数据。

攻击过程令人不安地简单。攻击者只需发送包含隐藏“越狱”命令的日历邀请即可。即使受害者未接受邀请，一旦要求 ChatGPT 整理日程安排，风险依然存在。一旦人工智能读取了恶意条目，它就会被劫持，攻击者便可控制并挖掘个人电子邮件内容，将其转发到其他地方。

对于 Buterin 来说，这正是为什么人工智能不应被赋予治理权力的原因。他更倾向于一种他称之为“信息金融”的系统——一个由相互竞争的人工智能模型组成的市场，在持续审查下运行。在这种设计中，由语言模型支持的独立审查员和人类陪审团充当监督角色。多样化模型和抽查机制确保缺陷能够被迅速发现，同时激励机制也让开发者保持诚信。

Buterin 承认，让机器管理复杂机构的想法或许颇具吸引力，但他强调，现实情况可能会变得混乱不堪。他认为，如果没有内置的安全措施和人工监督，试图让人工智能成为自主治理者，可能带来灾难性的损失，而非进步。