Vitalik Buterin呼吁人类主导的AI系统以维护价值观并防止权力集中

以太坊联合创始人Vitalik Buterin提出了他对人工智能（AI）发展的愿景，强调必须避免反乌托邦式的未来。在这种未来中，权力过度集中在少数人手中，而人类的生存可能面临威胁甚至无法挽回。

Buterin认为，人工智能的能力远超人类，将推动进化，并在多个行业中引领最佳创新实践。

然而，他警告称，如果AI变得过于自治，可能会与人类利益产生严重冲突。作为一种无意识的力量，AI的迅速发展可能威胁到人类的生存。

AI正在快速发展并实现自身目标，这可能导致某些社会陷入恐慌，而另一些社会则从中受益。这种模式在历史中并不陌生，但往往带来悲剧性后果。

当前立法辩论中的民意调查显示，AI带来的机会不容忽视。这些发现表明，建立能够明智引导AI发展的框架至关重要。

AI赋能人类实现伟大的知识成就

Buterin将AI视为增强人类能力、实现伟大知识和实践突破的工具。这种方法深化了AI与人类的合作关系，并将其视为人类代理权的延伸。

在此背景下，脑机接口（BCI）成为一种具有潜在优势的技术。BCI通过直接神经交流缩短了人类与AI交互的时间，从几秒减少到毫秒。

这些进步确保了人类决策始终保持控制权，技术以有意义的方式为人类服务，自动化系统不会超越人类权威。BCI通过加强智能系统与人类认知的融合，保护了人类的自主性。

Buterin还强调了在AI系统中融入“蒸馏人类判断”的重要性。这一理念通过激活群体智慧并提供道德指导来塑造AI行为。开发者需要将人类判断嵌入AI系统，使其更紧密地反映社会规范和期望。

AI去中心化以防范权力集中

Buterin的观点还涉及AI发展和控制的去中心化。他警告说，AI技术可能被少数大型机构垄断，从而导致权力极端集中。结果是，AI发展的主导权可能仅掌握在少数人手中，这对社会将是巨大的威胁。

区块链和零知识证明等技术可以帮助实现去中心化，促进社区间更公平的AI发展。

这使AI研究更加民主化，限制了权力的积累，并确保AI造福集体而非特定利益。

Buterin特别指出，去中心化的加速发展可以保护个人自主权免受集中控制的影响。它着重于提升防御能力，以应对强大AI系统的潜在优势。因此，在社会发展保护技术应优先于技术本身的进步。

Buterin以其广泛视野和基于解决方案的思维方式，指出了对技术发展方向进行潜在调整的必要性。他呼吁所有利益相关者——从研究人员、政策制定者到公众——积极合作，共同塑造AI的未来。

在技术发展的监管和治理方面，核心优先事项是围绕AI建立道德准则和监管框架。

密码大都会学院：厌倦了市场波动？了解DEFI如何帮助您建立稳定的被动收入。立即注册