全球AI安全峰会将在明天揭幕 有哪些看点？

原文来源：财联社

图片来源：由无界 AI生成

在英国政府的邀请下，首届AI安全峰会将于11月1日至2日在布莱切利园（Bletchley Park）举行，多国政府代表团、一众在AI领域处于领先地位的大厂和知名专家将齐聚一堂。在当前各国分头制定AI相关规管方案的背景下，这样的面对面交流实属难得。

英国特意选择布莱切利园作为会场也有格外的深意，二战期间，后来被称为“计算机科学与人工智能之父”的艾伦·图灵，就是在这里率领团队破解了德军的英格尔码。

（来源：英国国家二战博物馆）

有哪些参会嘉宾？

根据多方消息，欧盟委员会主席冯德莱恩和副主席Věra Jourová、意大利总理梅洛尼，还有美国副总统哈里斯均在上周宣布，将率团访问英国并参加AI安全峰会，这也是目前已知参会的最高级别外国官员。根据报道，还有一些在AI和经济领域具有重要影响力的国家和地区，会派出由政府官员、科学家和企业组成的官方代表团参会。

根据英国政府在发稿前公布的名单，总共有27个国家，以及联合国、欧盟等国际组织将派团参加。

在企业方面，目前确定参会的有微软总裁布拉德·史密斯、OpenAI CEO山姆·奥特曼、谷歌DeepMind CEO杰米斯·哈萨比斯、Meta的首席AI科学家杨立昆。另外，阿里巴巴、腾讯、亚马逊、Anthropic、ARM、英伟达、三星电子、索尼等知名公司也在官方列出的名单中。此前有消息称世界首富马斯克也会参会，但尚没有得到相关方面的确认。

据大会组织者透露，这次的AI峰会大致会邀请100多名嘉宾，人数方面来自各国政府官员、开发最先进AI模型的公司、学者和民间组织代表将大致相近。

这次峰会主要将讨论什么？

根据英国政府公布的议程，本次峰会将主要讨论5个目标：

1、对 前沿AI风险的共同理解以及需要采取的行动；

2、关于 前沿AI安全国际合作的前瞻性进程，包括如何更好地支持各自国家和国际的（监管）框架；

3、个体组织应采取的适当措施，以增加 前沿AI的安全性；

4、AI安全研究上的潜在合作领域，包括评估模型能力和支持治理的新标准开发；

5、展示如何确保AI的安全开发，能使AI得以在全球范围内用于良好目的。

简单来说，英国希望通过“组这个局”，推动国际社会在AI开发的伦理与责任、以及全球合作方面取得某种程度的国际共识。通过官方的说辞，不难发现峰会的主要关注点在“前沿AI领域”，也就是OpenAI开发的GPT-4等一批大模型。

在应对的风险方面，也能看出主办方调和各方关切的努力。本届峰会将主要讨论AI引发的两类风险：滥用和失控。

英国首相苏纳克上周曾警告称，存在人类“彻底失去对AI控制”的可能性；白宫则更关注具象的问题，拜登在周一签署行政令，旨在避免AI增进歧视、取代工人和破坏国家安全等弊病。在另一边，欧盟眼下正在抓紧推进全球首部专门针对AI的立法，争取在明年欧盟换届前敲定。

苏纳克此前也提到过，希望能组建一个类似于IPCC（政府间气候变化专门委员会）的组织，每年发布一份有关AI最新发展和伴生风险的报告。