英国君主计划向人工智能领域的一些最关键的人物寻求保证技术专家能够控制他们的发明。

Nvidia Corp.首席执行官Jensen Huang、OpenAI首席财务官Sarah Friar和Google DeepMind联合创始人Demis Hassabis将于周四出席国王查理三世在苏格兰举行的活动。Anthropic PBL和英国人工智能部长Kanishka Narayan的高级代表也将参加邓弗里斯宫的人工智能论坛。

根据准备好的讲话，查理三世国王将说道：“我们这个世界上那些重视我们人性及其重要道德成分的人正在焦急地寻求你们的保证，让我们不会失去对我们命运的控制。”白金汉宫在一份声明中说，这次聚会将讨论如何“利用这项技术造福社会和自然世界”。

这次闭门讨论是及时的。Anthropic首席执行官Dario Amodei在周末的一篇文章中引发了一场关于人工智能风险升级的全球辩论，呼吁减缓前沿模型的开发。OpenAI首席执行官Sam Altman同意这篇文章的结论，而Hassabis将其描述为“正确的前进道路”。与此同时，英伟达的黄不同意放缓或进一步监管。上周，两名人工智能研究人员离开了谷歌DeepMind和Anthropic，声称这项技术可能是致命的。

这些担忧引起了立法者和国际公众的不安。英国首相安迪·伯纳姆（Andy Burnham）受到执政党工党议员的压力，要求他对英国的人工智能政策提供更多的清晰度。最近几天，中国官员既拒绝了阿莫德伊的“危言耸听”，又警告了人工智能的危险。尽管美国总统唐纳德·特朗普反对任何放缓，但两党立法者提出了解决人工智能安全问题的措施，选民对这项技术越来越担忧。在峰会上，查尔斯国王将向各位高管提出两个关键问题：“首先，我们如何才能在确保安全的前提下充分利用人工智能技术的优势？其次，我们又该如何建立国际合作与共识，以确保所有国家都能从中受益，从而保护人类的未来？”

这位君主此前曾多次公开谈论人工智能技术，他在2023年英国首届人工智能安全峰会上警告称，必须立即着手应对这项技术所带来的风险。

他还多次表达了对气候变化的担忧；这一议题可能会让那些负责管理人工智能技术的高管们陷入辩护的境地。由于大型科技公司纷纷转向耗能较高的数据中心（其中一些公司仍依赖化石燃料作为能源来源），这些公司的碳排放量急剧增加。

周三，苏格兰议会投票通过了加强新建数据中心监管的法规，这可能导致爱丁堡与英国政府产生分歧——因为伯纳姆（Burnham）此前曾反对实施数据中心建设禁令。苏格兰议员表示，新的数据中心申请项目必须接受环境影响评估。英国国内的这场辩论反映了全球范围内对数据中心（尤其是那些用于运行和训练人工智能系统的数据中心）对环境及能源成本造成的影响的担忧。