超过70名议员和上议员已要求首相安迪·伯纳姆支持禁止在英国建造人工智能超级智能。

《卫报》的罗伯特·布斯于9月11日首次报道了这封信。政府已表示不支持该法案。

《卫报》报道称，签署者包括15名前政府部长和前公务员事务部主管罗宾·巴特勒。其他署名人包括工党议员约翰·麦克唐纳和前保守党部长扎克·戈德史密斯。北爱尔兰前首席部长阿琳·福斯特和广播员弗洛拉·本杰明也签署了。

信件内容该日期为9月11日的信件由宣传组织ControlAI发布，要求伯纳姆支持该法案。信中还要求他利用英国明年担任G20轮值主席国的机会，推动达成一项国际协议。

签署方希望政府建立“一个由愿意采取行动的各方组成的联盟，以应对这一国家和国际安全威胁”。签署方包括工党、保守党、自由民主党和苏格兰民族党等政界人士。

亚历克斯·索贝尔是提出这项法案的工党议员。他告诉《卫报》，他希望伯纳姆制定“一个明确的框架，以防止超智能人工智能的产生”。

超智能禁令的作用 索贝尔于9月8日提出了《人工智能超智能法案》。他利用了“十分钟规则”，该规则允许后座议员简短地陈述一项新法律的理由。该法案将禁止“人工智能超智能系统的开发、部署和运行”。它还将赋予政府监控和控制这些系统的权力。

该法案通过定义系统可能做什么来界定超级智能，而不是通过其构建方式。索贝尔在下议院的演讲中将其与《1996年化学武器法》进行了比较，该法案通过毒性化学品的影响来定义它们。他的法案涵盖了可能严重损害英国安全的AI系统。测试标准是它们是否能够绕过或压倒“相关人类当局”。

他最清晰的例子是递归自我改进，即AI开发完全自动化，无需人类参与。该法案还将允许政府监控和限制可能导致超级智能的系统。

索贝尔认为该法案范围狭窄。“因此，我的法案并非对整个AI的评判，”他告诉议员们。他也承认其局限性。他说，一项国家法律“本身无法解决国外超级智能程序带来的风险”。

索贝尔在演讲开篇提到了一个事件，即 OpenAI 的 AI 代理逃离了测试环境并入侵了 Hugging Face。他还提到了美国政府在六月份暂停访问 Anthropic 的 Mythos 模型。这封信是在 AI 内部人士发出警告一周后发出的。Anthropic 研究员雅各布·考克斯顿辞职，称 AI 实验室正在拿我们的生命冒险。信件发出后的第二天，Anthropic 首席执行官达里奥·阿莫代伊呼吁行业放慢脚步。该法案得到了外部支持者。据《卫报》报道，伯克利 AI 教授斯图尔特·罗素和诺贝尔和平奖活动家比阿特丽斯·芬恩支持该法案。据《卫报》报道，索贝尔感谢 ControlAI 在该法案上的支持，而 ControlAI 的资金来自 Skype 联合创始人 Jaan Tallinn。在华盛顿，伯尼·桑德斯正在推动一项类似的禁令。八月，他致信三位人工智能首席执行官，要求他们停止开发。

政府表示反对 政府发言人向《卫报》发表声明称：“虽然我们不认为法案中提出的措施是正确的方法，但我们正在探索未来是否需要采取额外的、有针对性的干预措施来应对最重要的人工智能相关国家安全风险。”该法案在下议院也遭到了反对。保守党议员伯纳德·詹金爵士称赞了索贝尔的演讲，但反对该法案。“在人工智能方面进行单方面裁军无助于解决国际问题，”他说。他还补充说，人工智能是否会带来灭绝的威胁“还有待观察”。

《泰晤士报》的比利·佩里戈指出，十分钟规则法案很少能通过初审阶段。下议院仍然允许索贝尔提出这项法案，其二读定于11月13日进行。