机器信任——为什么声誉是下一个人工智能原语

HodlX 客座文章 提交您的帖子

当我们第一次谈论人工智能的去中心化时，我们关注的是计算、数据和治理模型–这些仍然很重要。

然而，随着自主代理在交易资产、运行供应链和管理社区等现实环境中运作，信任成为了首要的挑战。

不是那种温柔的、人性化的话语，比如“我对这个品牌感觉很好”或者“他们的营销很有说服力”。

在机器经济中，信任必须以协议速度可验证、可量化和可执行。

如果没有它，分散的人工智能就有可能成为幻觉、垃圾邮件、剥削和连锁故障的高吞吐量舞台。

这不是我们可以通过增加计算能力或更清晰的数据集来解决的问题。问题在于我们如何决定谁来采取行动。

从非正式信任到协议规则

在 Web 2.0 中，信任就像阅读餐厅评论–对于选择晚餐来说这很好，但当数千个自主代理在瞬间做出具有重大影响的决定时就毫无意义了。

这些信号很容易伪造，不可能进行大规模审计，并且不会给不良行为者带来任何内在后果。

在去中心化的人工智能网络中，这种情况不会发生。代理不再是运行在业余爱好者服务器上的孤立脚本。

它们是请求资源、执行交易、在 DAO 中投票和协调其他代理的实体。

如果一个人的行为恶意或无能，损害是直接的，而且往往是不可逆转的。

研究界给出的答案是让信任本身成为基础设施的一部分。

一个越来越受到关注的提案是 AgentBound 代币–不可转让的凭证，作为人工智能代理的记录，由研究员 Tomer Jordi Chaffer 首次提出。

生物技术–P机器运动

ABT 是一种不可转让的加密凭证，可记录代理人随时间的行为。

把它想象成机器的护照–盖章的不是签证，而是已完成的核实工作、交付的成果和记录的失败。

与钱包余额或质押金额不同，ABT 不能被购买、出售或委托。

这些奖励是通过行动获得的，根据已验证的绩效进行更新，并因不当行为而被削减–行为证明。

这将默认设置从“付费游戏”转变为“证明行动”。

代币余额可以限制人类，但在机器经济中，它们会错误定价风险–代理可以廉价地克隆，可以借入资本并以机器速度运作，从而产生远远超出其利益的外部性。

ABT 通过使经过验证的性能随着时间的推移成为稀缺资源来缩小这一差距。

在代币加权系统中，有钱人会购买访问权限–在 ABT 门控系统中，只有持久、透明的业绩记录才能解锁更具影响力的角色。

可靠性成为运营的保障。

通过实时的五步循环，ABT 将代理行为转化为可以增长、衰减或削减的运营资本。

设想一个去中心化的物流网络。一个拥有零声誉 ABT 的新路由代理在小批量货物的监督下开始运行。

每项经过验证的工作都会获得证明–信任不断建立，直到它能够自主管理一个地区。

更新错误导致延迟–验证者会对其进行标记，并且 ABT 会受到惩罚，从而使代理重新回到低风险任务。

经过一段干净的试用期后，其声誉就会恢复。

这就是作为一个生命系统所赢得、失去和重新获得的信任，它以机器可以理解和协议可以执行的形式出现。

基于灵魂束缚的理念

如果这在概念上听起来接近灵魂绑定令牌，那么它确实如此。

在他们 2022 年的论文《去中心化社会》中–Glen Weyl、Puja Ohlhaver 和 Vitalik Buterin 在《寻找 Web 3.0 的灵魂》中提出，SBT 是人类身份的不可转让凭证。–文凭、附属机构、执照。

ABT 将这种逻辑扩展到机器。

但是 SBT 大多是静态的（“这个人从 X 毕业了”），而 ABT 是动态的，会随着每个经过验证的操作而更新。

它们并不关心代理是谁，而是关心代理如何随时间表现–时间因素至关重要。

如果代理商的模型已经退化或受到损害，那么去年的完美记录就没有任何意义。

ABT 捕捉到了这种演变，使其成为实时信号，而不是一次性徽章。

声誉 DAO 作为治理层

ABT 处理数据，即发生的事情的不可变记录，但必须有人制定规则。

什么是好行为，什么是坏行为？各种行为的分量有多大？如何处理纠纷？

声誉 DAO 是定义、维护和审计声誉层的去中心化治理机构。

他们决定哪些验证者可以更新 ABT、哪些指标对给定域很重要以及声誉如何随着时间的推移而下降或恢复。

他们还可以在高风险环境中设置风险等级–一个内容审核代理需要一个记录来自主行动。

相比之下，交易机器人可能需要另一个。通过分散这些决策，系统既可以避免被单一权威机构控制，又可以避免硬编码规则的僵化。

声誉 DAO 是去中心化信任的人机交互元素–不对每个行动进行微观管理–而是控制规范和参数以保持机器层的诚实。

使信任可编程的挑战

所有这些实现起来都绝非易事。最复杂的问题既是社会问题，也是技术问题。

Sybil 攻击是明显的威胁–培养数千名新特工，在低风险角色中积累声誉，然后将他们部署到高风险环境中。

要防止这种情况发生，需要将 ABT 与强大的去中心化身份绑定–有时还涉及无法廉价复制的硬件或执行环境。

洗白名誉是另一个风险。

如果没有安全措施，ABT 系统可能会变成一场高风险的化装舞会，恶意特工可能会戴上别人的面具进入贵宾室。

协议级的不可转让性、密钥的加密绑定以及严格的反委托规则至关重要。

此外，还存在隐私与可审计性的权衡。要信任一个代理，你需要了解它的表现。

然而，发布完整的决策日志可能会暴露敏感数据或专有方法。

ZKP（零知识证明）和聚合指标是解决这个问题的有希望的方法。

然后是治理俘获– 如果一小群验证者控制大多数更新，他们可以将不良行为者列入白名单或惩罚竞争对手。

开放验证器集、轮换和削减共谋有助于分配这种权力。

为什么现在这很重要

我们正处于这样一个阶段：去中心化人工智能较少受到技术的限制，而更多受到合法性的限制。

如果不能确定哪些代理可以承担哪些角色，网络要么集中控制，要么接受持续的风险。

ABT 和声誉 DAO 提供了第三条路径– 一种将信任直接编码到基础设施中的方法，使其像共识一样成为系统的原生部分。

他们公开回答了这个问题，将“谁控制人工智能？”转变为“如何定义、授予和撤销控制？”

Web 3.0 的第一波浪潮教会我们要信任陌生人，把钱交给他们。

接下来必须教会我们信任陌生人，让他们以机器速度做出决定，而其后果是人类无法及时逆转的。

在代理经济中，这不是可选的- 它的生存。

---

Roman Melnyk 是德克斯.