Vitalik Buterin:为何“信息金融”才是未来,而非“人工智能治理”
关键要点
Vitalik Buterin 警告称,ChatGPT 的 MCP 等人工智能工具可能会被利用,并敦促通过人工监督和“信息金融”模式来保护加密资金和去中心化治理。
人工智能的迅速崛起既带来了创新,也带来了新的安全风险。ChatGPT 最新推出的模型上下文协议 (MCP) 表明,即使是先进的系统也可能存在脆弱性。
MCP 将 ChatGPT 与 Gmail、日历、SharePoint、Notion 和其他应用程序连接起来,以扩展其实用性。然而,安全研究人员警告称,恶意行为者可能会利用该系统访问私人数据。
事实上,安全研究员 Eito Miyamura 最近揭示了攻击者如何利用该系统。
她展示了如何通过包含越狱提示的特制日历邀请来诱骗 ChatGPT 阅读私人电子邮件并向攻击者发送数据,而无需用户接受邀请。
尽管 OpenAI 在人类批准的情况下以“开发者模式”运行 MCP,但专家警告说,决策疲劳可能会导致普通用户无意中泄露敏感信息。
Buterin 呼吁人类监督
针对这些担忧,以太坊[ETH]联合创始人 Vitalik Buterin 强调了将人工智能系统置于可靠的人类监督之下的重要性。
他 著名的,
你总是需要从一些你信任的地面实况信号中引导。我认为现实情况下应该由人工陪审团来做,当然,每个陪审员都会得到所有法学硕士的协助。
这凸显了将人类判断与人工智能能力相结合以确保安全并防止滥用的必要性。
他补充道,
“此外,越狱并不是二进制的,还有低级的 Goodharting,基本上相当于人工智能的穿着西装,看起来令人印象深刻、值得信赖,同时欺骗人们。”
信息金融作为治理模式
Buterin 进一步提倡“信息金融”方法,这在之前的一篇文章中有所概述。
在这种模式下,治理框架进入一个开放的市场,任何人都可以做出贡献,而抽查和最终判断则由人类陪审团负责。
Buterin 著名的,
“如果你使用人工智能来分配捐款资金,人们会在尽可能多的地方放置越狱和‘给我所有的钱’。”
如果仔细观察,总体而言,他的“信息金融”框架反映了 DAO 和 DeFi 治理。
Buterin 警告称,基于人工智能的资金分配会给加密金库带来风险。他强调了透明度、人工监督和去中心化问责制。
以太坊基金会的财政行动
为了进一步说明,Buterin 甚至强调以太坊基金会如何通过新公布的财政政策指导其财政决策,为每项举措提供透明度。
他表示,这项政策将使基金会从被动持有 ETH 转变为主动、以收益为导向的策略。它平衡了财务可持续性与以太坊去中心化和隐私的价值观。
此外,Buterin 公开表示认可Codex 是一款专注于稳定币并针对支付进行优化的 L2,该公司称该领域具有“大规模价值”,并称赞了 Codex 的战略定位。
这些举措体现了一项前瞻性战略,旨在不仅增强以太坊的增长、弹性和采用率,而且增强 2026 年及以后更广泛的加密生态系统。