周三，“暂停AI”组织的抗议者封锁了唐宁街入口。伊恩·戴维森/图片/安迪·伯纳姆专注于紧迫的国内问题，这让一些人担心该问题已从政府雷达上消失。在基尔·斯塔默执政末期，他的高级部长们对人工智能的最新发展感到震惊，开始起草一项新的人工智能安全法。

据知情人士透露，他们下令审查现有立法，以了解自己已拥有哪些权力，并正在探索是否可以迫使全球最先进的科技公司在推出产品前提交安全测试。然而，在围绕前首相奋力留任的政治混乱中，这些计划被搁置了。

如今，在两周内世界被警告该技术“杀死全人类”的概率超过10%、查尔斯国王也警告其潜在破坏能力之后，政府的注意力再次转向如何应对人工智能。

斯塔默在唐宁街的继任者安迪·伯纳姆过去对这项技术谈及相对较少，而且他在上任后的首批举措之一就是撤销了此前主导立法工作的部门。

首相的注意力集中在更紧迫的国内问题上。但在他努力平衡首份预算并降低生活成本之际，一些人担心人工智能带来的威胁已从政府雷达上消失。

“政府的首要职责是保障人民安全，”工党议员、科学与技术委员会主席奇·翁武拉说。“政府面对生存性威胁的回应不能是举手投降，说我们无能为力。”奇·翁武拉。马克·托马斯/REX/ 风险与潜力自斯塔默的前任里希·苏纳克决定将其作为任内首要任务之一以来，英国一直处于人工智能安全辩论的前沿。

在担心超智能工具在无人干预的情况下会带来什么后果的背景下，苏纳克在英国召集了一次峰会，并说服美国、欧盟、澳大利亚和中国在人工智能安全问题上开展合作。斯塔默则更看好人工智能的潜力，认为它“能极大地提高生产力，以不同的方式做事，并在未来提供一个以不同方式运行的更好经济体”。

《卫报》获悉，在原先的技术部门，高级公务员埃姆兰·米安曾计划在公务员退休或调任新岗位时，让人工智能取代该部门几乎所有的公务员。但与此同时，政府中的一些人仍然热衷于关注该技术带来的风险。

就在斯塔默卸任前不久，时任外交大臣的伊薇特·库珀告诉《卫报》，她认为人工智能对人类构成了广岛式的风险。

斯塔默政府采取了措施来减轻库珀等人所指出的风险。今年6月，其政府拨款1.15亿英镑，用于资助一个应对中心，以处理人工智能失控时的事件，并建立一个新的AI生物安全计划。

科学部的官员还开始审查大臣们拥有哪些权力来强制企业配合英国的安全监管制度，以及他们还能为什么进行立法。“关键时刻”今年初夏伯纳姆上任时，他的首要举措之一就是撤销了科学、创新和技术部。

负责人工智能的初级大臣卡尼什卡·纳拉扬得到晋升，被安排在内阁办公室，他继续负责监督这项技术，但不再拥有专门部门的后勤支持。此举让AI行业的 některé 人感到惊慌。

曾为斯塔默和苏纳克提供建议的人工智能投资者马特·克利福德发帖称：“当前是科技作为经济和国家安全问题面临的关键时刻。将我们最高级别的科技官员卷入[重组]之中，浪费了实际工作急需的时间和精力。”

2017年曾主持英国政府人工智能审查的计算机科学家温迪·霍尔女爵士表示：“数字、科学、创新和技术部（DSit）的结构有些臃肿，但我们目前的碎片化状况造成的影响更为严重。”今年夏天，人工智能安全再次成为政治议程上的焦点。

7月，OpenAI披露其一个人工智能智能体对真实企业Hugging Face发动了自主网络攻击，引发了全球技术专家的警觉。

本月早些时候，28岁的研究员雅各布·科克森从Anthropic辞职，声称该公司正在“拿我们的生命赌博”。他的同事埃文·休宾格在网上转发了他的言论，并补充道：“我们确实真诚地相信人工智能可能会杀死所有人类！我个人认为，在未来十年内发生这种情况的概率超过10%。”就在这些警告发出的同时，《金融时报》披露，Anthropic在未先提交给英国安全研究所的情况下，推出了其Claude Mythos工具的最新版本。

随着担忧不断加剧，查尔斯国王本周介入，在苏格兰召集了一场人工智能高管会议。他在会上表示：“你们面前的任务不仅仅是推进技术，更要确保技术始终坚定地服务于人类、社区和自然世界。”查尔斯国王与人工智能研究员德米斯·哈萨比斯以及英伟达首席执行官黄仁勋在苏格兰卡姆诺克的邓弗里斯宫合影。

乔纳森·布雷迪/公众担忧也在加剧。YouGov周五表示，略超过三分之一的英国人认为人工智能是人类灭绝的第三大潜在原因，仅次于核战争和气候变化——这一数字自去年以来增加了一倍多。三分之二的人认为人工智能有可能终结人类文明，诺贝尔奖得主、计算机科学家杰弗里·辛顿也持这一观点，六分之一的人支持放缓人工智能发展。

在议会中，工党议员利亚姆·伯恩已要求安全研究所所长亨利·德佐特在他所主持的商业委员会面前作证。

德佐特本周早些时候回复称，在美国以外，没有人被允许在Anthropic最新产品发布前看到它，并坚称他的研究所仍可在这些工具发布后对其进行监测。

他说：“我们拥有才华横溢的人工智能研究团队，正在开展基于发布前和发布后测试的研究项目，这些项目对英国理解人工智能风险至关重要，涵盖化生、人类影响和失控等领域。”

部长们也开始发表评论。事实上的副首相路易丝·黑格本周告诉英国职工大会，如果“不设置正确的护栏，我们的国家安全和社会显然面临巨大风险”。

纳拉扬在《泰晤士报》的一篇文章中写道：“没有什么是不可能的。在需要进一步监管、立法、更强保护或新权力时，我们将采取行动。”警钟伯恩认为，部长们已经敲响了警钟。

他说：“我认为政府现在正在认真对待这件事。过去两周已经很清楚，也许我们的安全顾问没有所需的权力来保障我们的安全。”这仍然留下了一个历届政府都未解决的问题——作为一个中等强国，英国能做些什么来遏制世界上一些最先进、增长最快的科技公司的力量？

对一些人来说，答案是监管和立法，就像政府应对任何新兴威胁时所做的那样。

“社交媒体公司过去常常辩称，政府太无力，无法采取行动，”昂乌拉说。“但政府是有能力做事的。比如说，我们可以规定，如果你的前沿模型没有经过安全研究所的审核，我们就不允许你在我国销售你的商业模型。

“或者，如果你的AI去攻击别人，就像Hugging Face遭遇的那样，你要承担法律和财务责任。”许多人认为，只有与其他国家协调行动，这些措施才能奏效。

“如果美国和中国不解决这个问题，英国不太可能独自提供一个安全的环境，”伯恩说。“但一个由英国、欧洲、印度、加拿大和日本共同制定并执行的安全机制将会是强有力的。”

前内阁办公室大臣达伦·琼斯呼吁伯纳姆在明年英国主办G20峰会时将此议题列为头等大事。“目前关于AI安全的讨论集中在安全测试的国际合作上，”他说。“通过条约或协议在多边层面推进，这更容易实现。”

一位前政府官员表示：“如果我们共同要求你们必须让模型通过我们的安全研究所审核——如果我们在足够大的规模上这样做，我们就能与美国政府抗衡。”行动的时刻无论政府决定做什么，它可能会发现现在正是行动的最佳时机。不同寻常的是，业内许多人士本身也在呼吁更严格的监管。

OpenAI欧洲政策主管汤姆·达夫·戈登本周表示：“我们支持英国对包括OpenAI在内的少数几家开发最强大AI系统的公司实施更严格的规则。”一位前政府官员表示：“我们国家在AI方面有优势。我们的AI产业位居世界第三，仅次于美国和中国，而且我们在与其他国家协调方面也有相当大的号召力。”

“对我的问题在于，新任首相是否对这一问题有足够的敏锐度，从而能够利用这些优势。”