自主交易需强化可验证控制以应对系统性风险

在现代市场中，“自主”与“自动化”之间的界限正在逐渐消失。能够下单、协商费用、阅读文件以及重新平衡公司投资组合的代理人，已经脱离了各自的“沙盒”，直接与客户资金面对面。这听起来像是效率的全新维度，但也带来了全新的风险。

业界仍然认为，意图和责任可以通过免责声明来区分，但这完全是错误的。一旦软件能够转移资金或发布价格，举证责任就会颠倒过来，输入证明、行动约束和审计线索这些不可更改的信息就变得至关重要，事实上，它们不容置疑。

如果没有这样的要求，自主代理建立的反馈回路很快就会演变成一场快速发展的事故，令监管机构望而却步。各国央行和那些制定市场标准的机构都在发出同样的警告：当前的人工智能控制机制并非为今天的代理而设计的。

人工智能的进步放大了多个脆弱性向量上的诸多风险，但如果建立一个道德标准，解决办法就非常简单：只有通过构造证明是安全的，自主交易才是可以接受的。

令人担忧的反馈循环

市场的构建方式创造了一个激励机制，其中兼具速度和同质性，而人工智能代理则为两者提供了动力。如果许多公司部署经过类似训练的代理来处理相同的信号，那么顺周期的去风险化和关联交易将成为市场所有波动的基准。

金融稳定理事会已经已标记集群化、不透明行为以及第三方模型依赖性等风险可能会破坏市场的稳定。金融稳定理事会还警告称，这些市场的监管者必须积极监控，而非被动观察，确保不会出现漏洞，避免灾难的发生。

甚至英格兰银行报告今年4月，有人重申，如果没有适当的保障措施，更广泛地采用人工智能可能会带来风险，尤其是在上述市场面临压力的情况下。所有迹象都表明，在网络拥堵导致仓位集中平仓之前，模型、数据和执行路由中必须内置更完善的工程设计。

拥有大量活跃人工智能代理的实时交易大厅无法用通用的道德文件来管理；规则必须编入运行时控制中。谁、什么、哪个以及何时必须嵌入代码中，以确保不会出现漏洞，道德规范不会被抛诸脑后。

国际证券委员会组织（IOSCO）咨询3月份也表达了担忧，概述了治理方面的差距，并呼吁建立可进行端到端审计的控制措施。如果不了解供应商集中度、压力下未经测试的行为以及可解释性的局限性，风险将会加剧。

在这里，数据来源与政策同等重要。代理应该只接收已签名的市场数据和新闻；他们应该将每个决策与版本化的政策绑定，并且该决策的密封记录应该安全地保存在链上。在这个新兴且不断发展的状态下，问责制至关重要，因此要使其可计算，以确保对人工智能代理的可追溯问责。

实践中的道德

“可证明安全构建”在实践中是什么样的？它始于作用域身份，每个代理都运行在一个命名的、可验证的账户之后，该账户具有明确的、基于角色的限制，定义了其可以访问、更改或执行的内容。权限不是假定的；它们是明确授予和监控的。对这些边界的任何修改都需要多方批准，并留下可独立验证的加密痕迹。在这个模型中，问责制并非政策要求；而是一种从第一天起就嵌入的架构属性。

下一层是输入可采纳性，确保只有签名数据、白名单工具和经过认证的研究才能进入系统的决策空间。每个数据集、提示或依赖项都必须可追溯到已知且经过验证的来源。这大大降低了错误信息、模型中毒和提示注入的风险。当在协议层面强制执行输入完整性时，整个系统将自动继承这种信任，使安全不再仅仅是一个愿望，而是一个可预测的结果。

接下来是封存决策：每个操作或输出最终确定的时刻。每个操作或输出都必须带有时间戳、数字签名和版本记录，并将其与底层输入、策略、模型配置和保障措施绑定。最终形成一个完整、不可篡改的证据链，可审计、可重放、可追溯，将事后分析转化为结构化分析，而非仅仅停留在猜测层面。

这就是道德如何转化为工程，合规证明就存在于系统本身。每个输入和输出都必须附有可验证的收据，显示代理所依赖的内容以及其如何得出结论。尽早嵌入这些控制措施的公司将更快地通过采购、风险和合规审查，同时在消费者信任受到压力测试之前就建立起信任。而那些没有这样做的公司将在危机中期面临问责，面临压力，而且缺乏他们本应设计的保障措施。

规则很简单：构建能够证明身份、验证所有输入、不可篡改地记录所有决策、并按指令停止的代理，确保万无一失。任何不达标的行为都不再符合当今数字社会或未来自主经济中负责任参与的门槛，因为在未来，证明将取代信任，成为合法性的基础。

周塞尔温（Joe）

周塞尔温Joe 是 DeAgentAI 的联合创始人，拥有丰富的经验，包括人工智能博士、前 SAP 数据科学家和顶级风险投资人。在创立自己的 web3 公司之前，他曾是多家领先风险投资公司的投资者，并参与了多家人工智能独角兽企业的早期投资，主导投资了 Shein（估值 600 亿美元）、Pingpong（一家估值 40 亿美元的人工智能支付公司）、上市公司黑芝麻科技（HKG：2533）和 Enflame（一家估值 40 亿美元的人工智能芯片公司）。