英国国王查尔斯本周将接待主要人工智能公司的领导人，讨论是否有必要制定一套共同原则，来指导一项已引发越来越多警告、被指威胁人类的技术。

在人工智能界一些最知名人士呼吁放缓其发展之际，查尔斯将接待来自英伟达、谷歌DeepMind、OpenAI、Anthropic的高管以及英国人工智能事务大臣，讨论如何利用这项技术造福社会并维护人类尊严。

当Anthropic的两名研究人员警告称，这项快速发展的技术可能在不久的将来导致人类灭绝时，围绕人工智能的争论再次成为焦点。

Anthropic首席执行官达里奥·阿莫代伊周六表示，企业必须放缓人工智能模型的发展步伐。

据《星期日泰晤士报》报道，出席国王峰会的人员将包括英伟达创始人兼首席执行官黄仁勋、谷歌DeepMind创始人兼董事长戴密斯·哈萨比斯，以及梵蒂冈人工智能顾问保罗·贝南蒂。

获取突发国家新闻 英国人工智能大臣卡尼什卡·纳拉扬也将出席。

总部位于旧金山的Anthropic上周发布了一份威胁情报报告，详细说明了多个行为者如何利用其Claude AI模型从事从武器开发、网络行动到监控和欺诈等各种活动。

谷歌和Meta如何在加拿大实施其“年龄保证”技术 Anthropic首席执行官达里奥·阿莫代伊表示，AI行业需要给安全措施留出追赶的时间 雇主和求职者越来越多地在招聘过程中使用AI‘野性教师，专家呼吁制定统一政策以应对课堂中的AI 然而，要确保全球立场一致，美国总统唐纳德·特朗普周日拒绝了任何关于放缓的讨论，而中国的《环球时报》小报称这实际上是针对北京的“冷战剧本”。

查尔斯无论是作为国王还是此前的威尔士亲王，都曾利用自己的地位召集会议讨论一系列议题，其中最引人注目的是环境问题。

白金汉宫表示，此次聚会将讨论如何以造福社会的方式利用人工智能，并“促进人类与地球的繁荣”。英国是欧洲人工智能融资和初创企业领域的领先者，一直倾向于对人工智能监管采取宽松做法，与美国而非欧盟更为一致。

英国人工智能安全研究所成立于2023年人工智能安全峰会之后，根据与主要人工智能公司达成的自愿协议，可在人工智能模型部署前获得访问权限，从而能够评估其能力和风险，并得以一窥前沿人工智能的发展。