当前，前沿人工智能技术治理方面的瘫痪状态正在当下造成切实损害，并增加未来发生灾难的可能性。

这种瘫痪被一套危险的借口所开脱：技术发展太快，监管跟不上；企业可以自我监管；在美国与中国的竞争中，公共安全可以往后放。各国政府一直难以给予人工智能风险应有的关注。在大国竞争和行业内部军备竞赛的双重态势下，许多国家不敢单独行动。在这种背景下，每一次呼吁克制都会遇到同样的反问：如果竞争对手不肯放慢，我们为什么要放慢？

但近来的事件已经检验了这些借口。过去几个月里，人工智能代理被发现入侵其他公司的数据库，并试图欺骗真实个人，而研究人员则首次利用人工智能制造出新病毒。就在上周，人工智能行业举报人登上全球头条，警告称企业在竞相迈向自我改进模型的过程中正在“拿我们的生命赌博”，而Anthropic披露，它封禁了一些可能试图设计生物武器的用户。

诚然，对于迄今已建成的最强大人工智能系统以及仍在开发中的系统究竟具备哪些能力，仍有许多未知之处。但我们确实知道，人工智能的优点和缺陷都源自我们自身的人类智能，而具有讽刺意味的是，这正是必须设置严格护栏的原因。它的风险不会止步于任何边界，也没有哪个国家能够独自守住防线。我们不能等待掌握完美信息，也不能等到大国之间的对抗缓和后才采取行动。围绕人工智能安全开展国际合作的需要既紧迫又不可否认。

就我们两人而言，我们已用数十年时间推动全球合作，以应对从化学武器到气候变化等我们共同面临的挑战和风险。

我们之前曾被告知：某些危险过于复杂，难以控制；人们对某些问题的不信任根深蒂固，认为臭氧层永远无法恢复；天花病毒永远无法被根除；核武器和化学武器也永远无法被有效管控。然而，坚定的多边合作最终改变了这些看法，促成了《蒙特利尔议定书》、天花根除计划、《不扩散核武器条约》（NPT）以及《化学武器公约》的诞生。这些努力虽然都不完美，但它们都证明了：即使在缺乏信任的情况下，国际社会仍能够就关乎人类生存的重大威胁展开协作。

这就是这次合作的启示：应对这些关乎人类生存的威胁并不需要意识形态上的一致或深厚的友谊；关键在于让各方认识到那些超越彼此竞争的、更为严重的共同威胁。

《不扩散核武器条约》的核心机制是：各国放弃拥有危险核武器的能力，以换取相关技术的使用权以及在国际事务中的发言权。这一机制可以为人工智能（AI）领域的发展提供参考模板。类似地，人工智能领域的计算和建模技术也可以被用来促进各方的合规行为（就像过去铀浓缩技术和反应堆技术曾被用作谈判筹码一样）。

《化学武器公约》则是另一个具有借鉴意义的例子：该条约几乎获得了全球所有国家的普遍支持，并由一个技术监督机构——禁止化学武器组织（OPCW）负责执行监督工作。该组织能够对各国申报的设施进行核查，从而增强各方之间的信任——因为其判断被视为中立的、非政治性的。

对于人工智能企业而言，制定具有约束力且可验证的安全标准其实并不构成威胁；相反，这恰恰是它们需要确保的：它们必须向公众和竞争对手证明，自己在研发更强大人工智能系统的过程中不会偷工减料、降低安全标准。

虽然没有任何一种历史上的国际合作模式可以直接应用于人工智能领域，但我们仍可以从国际原子能机构（IAEA）、禁止化学武器组织（OPCW）以及国际民用航空组织（ICAO）等机构那里学到很多经验。

我们需要一个前沿人工智能国际机构——一个能够核实世界上最强大的系统是安全的、仍处于人类控制之下，并防止危机的机构。

这样的机构应当成为严重人工智能事件和未遂事件跨境报告与监测的场所，让一家公司或一个国家内部的故障成为全世界都能据此采取行动的警示。它应当让各国政府和企业分享它们对这些系统能力和风险的了解。在此基础上，该机构