治理挑战成人工智能在金融领域发展的关键障碍

Eliza Labs 创始人 Shaw Walters 强调，尽管自主 AI 代理在区块链生态系统中发展迅速，但它们尚未准备好负责任地管理金融资产。Eliza Labs 的这一谨慎态度正值其实验性 $ai16z 代币过渡到可投入生产的 $elizaOS 代币之际。该代币为跨网络的 AI 代理提供支持，例如

和 $elizaOS 代币旨在促进 DeFi 应用程序的跨链操作，使代理能够管理复杂的工作流程并优化投资组合，但 Walters 强调，此类系统在处理现实世界的资本之前需要强大的治理框架Eliza Labs 宣布从 $ai16z 代币迁移至……^[1].

ElizaOS 生态系统目前估值超过 200 亿美元，展示了一些实际应用，例如使用 ElizaOS 调整债券条款的 Agent Bond Desk，以及自主重新平衡投资组合的流动性管理工具 Spartan。然而，Walters 指出，这些工具仍处于受控环境中，这凸显了在不受监管或高风险的金融场景中部署人工智能的风险。“我们已经从实验性的沙盒转向了可用于生产的基础设施，”他说道，“但向管理真实资金的过渡需要严格的监督，以防止出现错误、偏见或不可预测的行为。”Eliza Labs 宣布从 $ai16z 代币迁移至……^[1]“

新加坡的监管发展凸显了这些担忧。2024年12月，新加坡金融管理局（MAS）发布了人工智能模型风险管理指南，强调金融人工智能系统需要治理、透明度和风险评估。人工智能在新加坡未来金融中心中的作用 | 海峡时报^[3]该文件概述了最佳实践，包括跨职能监督、人工智能库存跟踪和模型独立验证。MAS 还强调了生成人工智能的独特风险，例如幻觉和数据安全漏洞，并敦促各机构采取输入/输出过滤器和私有云部署等技术保障措施。人工智能在新加坡未来金融中心中的作用 | 海峡时报^[3].

随着新加坡将自身定位为人工智能驱动的金融创新中心，关于人工智能在金融领域作用的争论愈发激烈。新加坡数字发展部长Josephine Teo指出，人工智能可以提升财富管理等领域的效率，并举例说明瑞银的人工智能工具可以简化客户入职流程。然而，她也警告了风险，包括评估偏差和代价高昂的错误，并强调了像“月球计划”（Project Moonshot）这样的防护措施的重要性。“月球计划”是由AI Verify基金会与新加坡资讯通信媒体发展局合作开展的，旨在测试人工智能的安全性。

沃尔特斯的立场与这些监管和行业警示措施一致。尽管Eliza Labs的智能体展现了技术能力，但他认为，当前的系统缺乏财务管理所需的问责制和透明度。“如今的人工智能智能体在自动化和优化方面表现出色，但资金管理涉及道德、法律和运营方面的复杂性，需要人工监督，”他表示。Eliza Labs 宣布从 $ai16z 代币迁移至……^[1]这一观点反映了更广泛的行业共识，因为新加坡金融管理局和金融机构在扩大部署之前优先考虑降低人工智能风险的框架人工智能在新加坡未来金融中心中的作用 | 海峡时报^[3].

随着人工智能代理的不断发展，创新与监管的交汇将影响其在金融领域的应用。沃尔特斯的谨慎呼吁强调了开发者、监管机构和机构之间合作的必要性，以确保以负责任的方式实现人工智能在金融系统中的潜力。