纽约通过《RAISE法案》以限制人工智能引发的灾难性风险

纽约州立法者近日通过了一项名为《RAISE法案》的法案，旨在限制人工智能技术可能引发的灾难性事件。该法案明确针对OpenAI、谷歌、Anthropic等科技巨头开发的人工智能模型，防止其可能导致的大规模伤亡或经济损失。

根据法案内容，这类灾难性场景包括超过100人死伤或造成超过10亿美元的经济损失。这一法案被视为推动人工智能安全运动的重要胜利。过去几年中，由于硅谷和特朗普政府更倾向于优先发展速度与创新，人工智能安全议题逐渐被忽视。

包括诺贝尔奖得主杰弗里·辛顿（Geoffrey Hinton）和人工智能研究先驱约书亚·本吉奥（Yoshua Bengio）在内的安全倡导者对该法案表示支持。如果《RAISE法案》最终签署成为法律，它将为美国领先的人工智能实验室设立首套法定透明度标准。

纽约考虑通过《RAISE法案》限制人工智能引发的灾难

《RAISE法案》与加州此前备受争议且最终被否决的人工智能安全法案SB 1047具有部分相似条款和目标。

然而，《RAISE法案》的共同发起人、纽约州参议员安德鲁·古纳德斯（Andrew Gounardes）在一次采访中提到，他设计该法案时避免了对初创企业和学术研究人员创新的限制，而这正是SB 1047面临的主要批评。“鉴于这项技术发展速度之快，设置护栏的时间正在迅速缩短，”古纳德斯参议员强调。

古纳德斯还指出，大多数人工智能领域的专家已意识到潜在风险，并认为这一趋势“令人担忧”。目前，《RAISE法案》已送达纽约州州长凯西·霍楚尔（Kathy Hochul）的办公桌，她可以选择签署使其成为法律，也可以将其退回修改。当然，她也可能选择否决该法案，分析认为这种可能性同样存在。

如果最终签署成为法律，《RAISE法案》将要求全球一些最大的人工智能实验室发布其前沿人工智能模型的安全报告。此外，该法案还要求实验室报告与人工智能模型行为异常或不良行为者窃取模型相关的安全事件。

对于未能达到这些标准的科技公司，《RAISE法案》授权纽约总检察长对其处以最高3000万美元的民事罚款。

《RAISE法案》旨在规范人工智能实验室

《RAISE法案》的目标是规范全球最大的人工智能公司，包括总部位于加州的OpenAI和谷歌，以及总部位于中国的DeepSeek和阿里巴巴等公司。该法案适用于使用超过1亿美元计算资源训练人工智能模型的企业，并确保纽约居民能够从相关条款中受益。

尽管与SB 1047有相似之处，但《RAISE法案》解决了之前关于人工智能安全法案的一些问题。例如，该法案并未要求人工智能模型开发者设置终止开关，也不会限制模型后续训练，同时也不要求公司对重大损害负责。

然而，《RAISE法案》也遭遇了来自科技界的反对。安德森霍洛维茨基金的普通合伙人安吉尼·米德哈（Anjney Midha）在周五的X帖子中表示：“纽约州《RAISE法案》是又一项愚蠢的州级人工智能法案，在我们的竞争对手遥遥领先的时候，它只会损害美国。”

安德森·霍洛维茨（Andreessen Horowitz）和初创企业孵化器Y Combinator此前曾强烈反对SB 1047。此外，Anthropic联合创始人杰克·克拉克（Jack Clark）也对《RAISE法案》的广泛性表达不满，指出该法案可能会给小公司带来额外风险。

KEY 差异线：加密货币项目用来获得媒体报道的秘密工具