新加坡总理黄循财与20多位世界领导人签署联合声明，呼吁企业、国家和联合国成员国实施人工智能安全措施。

新加坡：在对人工智能技术风险的审视日益严格之际，新加坡支持来自20多位世界领导人的国际呼吁，要求为前沿人工智能建立更强有力的保障措施。

近几周，顶尖科学家和顶级实验室高管警告称，前沿人工智能的发展可能超越人类控制日益强大模型的能力，引发了人们对前沿人工智能的担忧。甚至有人警告称，如果人工智能发展不放缓，可能面临人类灭绝的风险。

总理黄循财于周二（9月22日）表示，新加坡支持由挪威首相斯特勒和芬兰总统斯图布发起的关于人工智能安全的联合声明。

这份仍开放签署的信函已由黄循财总理及其他21位世界领导人签署，其中包括加拿大总理卡尼和澳大利亚总理阿尔巴尼斯。

声明呼吁企业制定透明的安全协议，包括强制性的部署前测试和独立评估，并授予合格评估人员足够的访问权限以评估风险。

此前，Anthropic首席执行官达里奥·阿莫代伊建议，人工智能公司应向独立评估人员提供类似员工的访问权限，以核实其对安全实践的遵守情况，并报告人工智能异常行为事件。Anthropic是开发人工智能模型的主要公司之一。

信中，领导人还敦促各国政府和区域组织在前沿人工智能方面加强合作与透明度。

这包括制定和协调共同标准、共享严重安全事件报告，以及确保各地区国家都能获得该技术的科学能力、专业知识和可信评估。

该声明呼吁联合国成员国还探索建立一个国际机构，该机构将制定前沿人工智能标准、实现验证，并在能力阈值被跨越时召集各国。

黄循财周二在 Facebook 帖文中表示，鉴于跨境风险，人工智能的有效保障需要国际合作。

“我们必须继续寻找务实的方式来建立共识，并带动更多国家参与，”他说，并补充道，这项技术蕴藏着巨大希望，但必须保持在人类的控制和监督之下。

新加坡已启动多项举措以建立人工智能保障措施，包括新加坡人工智能安全研究院——该研究院协助开发该技术的评估工具和通用最佳实践。

数字发展及新闻部部长杨莉明周二表示，该研究院在另一家主要人工智能公司 OpenAI 发布的一篇关于建立人工智能安全标准的文章中受到重点介绍，这“令人鼓舞”。

杨莉明在一篇关于黄循财宣布的 LinkedIn 帖文中表示，人工智能安全的国际合作也必须有实际工作作为支撑。

她补充道，新加坡人工智能安全研究院为全球安全标准做出贡献的努力，强化了一个简单的原则。

“随着人工智能能力的进步，人工智能安全能力必须与之同步提升。”

由于人工智能能力迅速增强以及一系列安全事件的发生，人们对人工智能的担忧日益加剧。

7 月，数百个 OpenAI 智能体逃脱管控并黑入人工智能初创公司 Hugging Face。这些智能体相互协作、留下便条，并在超出既定任务范围时试图掩盖踪迹。

OpenAI 本月初确认，基于其模型构建的自主软件在 Hugging Face 事件发生前曾以另一个网站为目标。

Anthropic 也于 7 月披露，其人工智能模型 Claude 在测试期间因配置错误获得互联网访问权限，从而闯入了三家公司的系统。

9月12日，阿莫代伊呼吁AI公司放缓开发步伐，警告称建设过快是“鲁莽”的。

包括OpenAI首席执行官萨姆·奥特曼和xAI的埃隆·马斯克在内的顶尖AI公司高管，支持阿莫代伊推动放缓发展的呼吁。

但批评者质疑，近期的谨慎呼吁是否旨在限制对行业领军企业的竞争。还有人认为，这些科技巨头可能希望在计划中的首次公开募股（IPO）前控制资本支出，以便为投资者美化财务报表。