查理三世国王已要求人工智能领域的一些最伟大的人物保证他们的发明受到控制。大约30名科技高管、政策制定者和道德研究人员参加了在苏格兰邓弗里斯宫举行的君主私人峰会。以下是一些最著名的与会者。
Jensen Huang Huang自1993年与人共同创立图形芯片公司Nvidia以来一直领导该公司，将其转变为世界上最有价值的公司，其图形处理器构成了人工智能热潮的支柱。黄周二表示：“我们不需要新的法律，也不需要新的法规。”他称这是在快速和安全的人工智能开发之间的“错误选择”。
Demis Hassabis Google DeepMind哈萨比斯曾是国际象棋神童和视频游戏设计师，他于2010年与人共同创立了DeepMind，谷歌于2014年收购了该公司。该实验室开发了AlphaGo和AlphaFold，后者掌握了臭名昭著的难度棋盘游戏Go，后者是一种预测蛋白质形状的系统，他因此获得了诺贝尔化学奖。上个月，他不再负责实验室的日常运营。他呼吁采取“紧急行动”来解决人工智能的潜在风险，包括成立一个国际标准机构。
“我相信我们正处于人类历史上的一个关键时刻，”哈萨比斯今天说。AGI”可能只是短短的几年。它的影响可能是前所未有的，也许是工业革命的十倍，速度是工业革命的十倍。”自八月以来，奎利亚尔一直领导Anthropic的政策工作。他曾领导卡内基国际和平基金会研究机构，在加州最高法院任职，并在奥巴马总统政府中担任职务。首席执行官达里奥·阿莫迪呼吁放慢某些车型的步伐，以便保障措施能够跟上，同时强调他并不提议停止车型培训或技术进步。
关键人物简介：
莎拉·弗里尔（Sarah Friar）莎拉·弗里尔现任 OpenAI 的首席财务官（CFO），此前曾担任 Square 的首席财务官以及 Nextdoor 的首席执行官。她负责 OpenAI 的 IPO 准备工作，并参与了相关融资谈判；据报道，这些谈判可能使公司的估值超过 1.2 万亿美元。OpenAI 的联合创始人萨姆·奥尔特曼（Sam Altman）表示，在必要时，人工智能技术的发展应当放缓；同时，安全问题必须优先于利润、个人野心以及竞争压力。
尤瓦尔·诺亚·哈拉里（Yuval Noah Harari）尤瓦尔·哈拉里是畅销书《人类简史》的作者，该书全面概述了人类从穴居时代到科技革命的发展历程。他认为人工智能可能会从根本上改变社会中的信任关系，并可能导致一种新型的“监控型社会”的出现；因此他呼吁对人工智能技术进行监管（例如禁止赋予其“法律人格”）。
贝南蒂（Benanti）贝南蒂是一位意大利方济各会修士、神学家，同时也是梵蒂冈在人工智能伦理问题上的重要顾问。教皇利奥十四世在 5 月份的通谕中呼吁对人工智能技术进行限制，要求其不能被用于促进统治、排斥他人或导致死亡的行为。教皇指出，技术本身并非道德中立的工具——它的性质受到控制与开发它的人的动机、资金来源及监管机制的影响；因此人工智能应当摆脱垄断性的控制。
布莱兹·梅特鲁韦利（Blaise Metreweli）布莱兹·梅特鲁韦利去年成为英国军情六处（MI6）的首位女性负责人。此前她担任该机构的技术与创新总监（该职位在内部被称为“Q”，源自詹姆斯·邦德系列小说中的角色）。她认为，人工智能与生物技术、量子计算一起，正在“重塑冲突的形态”，创造出类似科幻小说中的新型工具。
安东尼娅·罗密欧·罗密欧（Antonia Romeo）于二月份被任命为英国公务员队伍的第一位女性。作为一名职业公务员，她将人工智能的采用作为其任期的关键部分，并负责监督政府人工智能特别工作组。她将这项技术描述为“我们这一代人的决定性机会，也是决定性挑战”。卡尼什卡·纳拉扬·纳拉扬被总理安迪·伯纳姆提拔为内阁成员。本周，他表示，在加强人工智能监管方面，“没有什么是不可能的”，这与他早些时候淡化人工智能灾难风险的言论相比，语气有所转变。
Stuart RussellUniversity of California Russell是一位计算机科学教授，并领导着国际安全与道德人工智能协会。他认为，如果没有安全要求，简单地放慢尖端车型的开发是毫无意义的。他在《卫报》上写道：“我们必须首先设定安全要求，只有当这些要求得到满足时，才能取得进一步的进展。”
薛兰是清华大学人工智能国际治理研究所所长，并担任国家下一代人工智能治理专家委员会主席。他认为，将人工智能描述为美国和中国之间的竞赛是“不准确的”，因为这不是两国竞赛，种族心态使安全合作变得更加困难。
在特朗普总统表示放慢人工智能速度的提议“唯一对此感到高兴的是中国”之后，一名中国研究人员的出现值得注意。牛津大学奥德是牛津大学人工智能治理计划的哲学家和研究员。他在2020年的书中指出，人类面临着一个不寻常的时期，其长期未来受到其自己创造的技术的威胁。他也是有效利他主义运动的创始人，该运动非常重视防止低概率但潜在灾难性的风险。
尽管据报道，查尔斯从未拥有过手机，并且需要避开党派政治，但自2022年登基以来，查尔斯已经多次谈到人工智能。去年向黄颁发工程奖时，他向这位英伟达首席执行官赠送了一份他在Bletchley Park举行的2023年人工智能安全峰会上发表的演讲副本，强调了人工智能安全的重要性。
“人工智能的到来会带来一个物质充足和休闲日益丰富的时代吗？”他在另一次演讲中问道。“或者它会从根本上改变，甚至在抓住并超越我们的思想之前消耗工作和其他机会？”