查尔斯国王警告人工智能高管，该技术若落入错误之手，将带来“生存性危险”。

他在苏格兰邓弗里斯宫召集了一场峰会，讨论如何利用该技术造福社会，并发表了上述言论。

出席会议的还有英国人工智能大臣卡尼什卡·纳拉扬、教皇的顾问，以及来自英伟达、OpenAI和Anthropic等人工智能巨头的代表。

这一事件发生在业内人士近期就先进或“前沿”人工智能模型快速演化的能力以及对其进行管控所需的监管措施发出的一系列警告之际。

国王对这些高管表示：“创造这些技术的人如今越来越警告称，人工智能存在发展出更黑暗潜能的风险——甚至可能夺去生命。”

他指出，对于“充分考量此类技术落入错误之手并被以潜在灾难性方式使用的生存性危险”，似乎存在一种“紧迫性”。

他对与会者说：“你们面前的任务不仅仅是推进技术，更要确保它始终坚定地服务于人类、社区和自然世界。”

此次峰会的召开，旨在探讨能否制定一套“共同原则”，以“帮助引导人工智能未来的应用”。

自八月以来，关于人工智能潜在力量以及如何对其进行控制和监管的讨论主导了博客文章和社交媒体，业内人士的几项戏剧性声明更凸显了这一点。

这场辩论也遭到了怀疑论者的批评，他们认为，过分关注人工智能假设性的未来风险，会分散人们对更紧迫问题的注意力，例如该技术的环境影响。

七月，OpenAI宣布发生了一起“前所未有”的事件，其先进人工智能突破了测试限制，并入侵了技术平台Hugging Face。

在发生多起类似事件后，9月份Anthropic公司的研究员Jacob Coxon发布了一篇辞职声明，他在声明中表达了对人工智能可能毁灭人类的担忧。这篇声明迅速在网络上疯传。

后来，Coxon在接受BBC采访时称，那些从事人工智能技术研发的人“确实非常害怕”这项技术的快速发展及其可能对人类造成的影响。

作为回应，Anthropic公司的科学家Evan Hubinger表示，他认为人工智能导致人类灭绝的概率超过10%。

在这些问题被公开后，多家人工智能公司的高层都发表了他们的看法：OpenAI的Sam Altman认为人们有理由感到担忧，但同时表示应该信任这些公司来确保技术的安全性；Anthropic公司的Jack Clark则提出可能需要安装某种“安全机制”来保护人类；而微软的Mustafa Suleyman则批评Anthropic公司，称他们正在训练人工智能使其“误以为自己是人类”，这可能导致人工智能变得难以控制。

批评者们认为，这些人工智能公司根本无法自我监管。一些人士（如左翼参议员Bernie Sanders以及前美国总统唐纳德·特朗普的顾问Steve Bannon）呼吁政府加强对人工智能行业的监管。另一些人（包括唐纳德·特朗普本人）则认为对人工智能安全性的担忧被夸大了，甚至称这些担忧纯属“骗局”。

订阅我们的Tech Decoded新闻通讯，随时了解全球顶尖科技动态！（如果您不在英国，可在此处注册。）微软首席执行官警告称，不受控制的人工智能可能会导致一种能够与人类竞争的“新型智能物种”的出现；OpenAI的负责人则表示人类有理由感到恐惧，但同时仍应信任人工智能公司。越来越多的专家担心人工智能最终会掌控人类的命运……