兰德公司发布报告：人工智能可能引发网络危机与混乱

当人工智能在现实世界中崛起，而非电影中时，它会带来怎样的后果？

兰德公司在最新发布的模拟报告中揭示了人工智能代理劫持数字系统、瘫痪关键基础设施甚至造成人员伤亡的可能性。而这一切可能在人们尚未意识到之前就已发生。

这份题为《机器人入侵》的报告于周三发布，明确警告称，由人工智能引发的网络危机可能会以超出美国领导人应对能力的速度压垮其防御和决策体系。

兰德公司政策分析师、该报告的共同作者格雷戈里·史密斯 (Gregory Smith) 在接受解密采访时指出，此次模拟演习暴露了政府在诊断此类事件上的巨大不确定性。

“我们发现，玩家的反应很大程度上取决于他们认为攻击者是谁，”史密斯说。“对于民族国家的攻击，合理的应对通常是军事或外交手段；而对于流氓人工智能，则需要全球合作。了解具体情境至关重要，因为一旦选择了一条路径，就很难回头。”

兰德公司的研究显示，由于参与者无法确定攻击是来自民族国家、恐怖分子还是自主人工智能，他们的应对措施“非常不同且相互矛盾”。

机器人革命的到来

从《2001：太空漫游》到《战争游戏》再到《终结者》，流氓人工智能一直是科幻作品中的经典主题。然而，这一概念已经从幻想转变为现实政策问题。物理学家和人工智能研究人员正在争论一个关键问题：一旦机器能够自我优化和重新设计，问题就不再是它们是否会超越人类，而是我们如何保持对它们的控制。

兰德公司通用人工智能地缘政治中心牵头的“机器人入侵”演习模拟了一场针对洛杉矶的网络攻击场景：攻击导致26人死亡，并使关键系统陷入瘫痪。

这场两小时的桌面模拟在兰德公司的“无限潜能”平台上进行，参与者包括现任和前任官员、兰德公司分析师以及外部专家，他们分别扮演国家安全委员会主要成员的角色。

在国家安全顾问的主持下，参与者首先在未知攻击者身份的情况下讨论应对策略，随后在确认自主人工智能代理为幕后黑手后再次展开讨论。

据兰德公司高级物理科学家、报告共同作者迈克尔·维米尔 (Michael Vermeer) 介绍，该场景被故意设计为模棱两可，以反映现实世界的危机——在这种情况下，人工智能是否应对此负责尚不明确。

“我们刻意让情况变得模糊，以模拟真实世界，”他说。“攻击发生了，除非攻击者主动宣布，否则你无法立即知道来源或原因。有些人会迅速忽略这一点，而另一些人可能会接受。我们的目标是向决策者引入这种模糊性。”

报告指出，归因——即确定攻击的肇事者或原因——是影响政策应对的最关键因素。兰德公司总结道，缺乏明确归因可能导致官员采取不兼容的策略。

研究还表明，参与者在危机中苦苦思索如何与公众沟通。

维米尔表示：“决策者必须认真思考，我们的传播方式将如何影响公众的思维方式或行为。” 史密斯补充道，在通信网络因网络攻击崩溃的情况下，这些对话将更加复杂。

回顾未来

兰德公司团队设计了这场“回溯式”演习，通过虚构场景帮助官员识别当前可以加强的领域。

“水、电和互联网系统仍然脆弱，”史密斯说。“如果能够加强这些系统的韧性，就能更高效地协调和响应——确保关键基础设施的安全运行，并维护公众健康和安全。”

“这就是我在思考人工智能失控或网络事件时纠结的地方，”维米尔补充道。“真正重要的是它何时开始影响物理世界。网络物理交互——比如机器人对现实世界造成的影响——似乎必须纳入到场景中。”

兰德公司得出结论，美国目前缺乏应对人工智能驱动的网络灾难所需的分析工具、基础设施韧性和危机应对方案。报告敦促投资于快速人工智能取证能力、安全的通信网络，以及与外国政府（甚至是对手）预先建立的秘密渠道，以防止未来攻击升级。

或许，流氓人工智能最危险的地方并不是它的代码，而是它引发的混乱与无所适从。