塞思·博伦斯坦 联合国——这是杀人机器人对抗超级智能。在联合国，世界领导人讨论人工智能的威胁——或前景——时，漫画书中描绘的未来景象正在上演。

在涉及科学和未来的一个紧迫问题上，唐纳德·特朗普再次与联合国秘书长及其他领导人针锋相对，这与围绕气候变化威胁的持续争端如出一辙。

联合国秘书长古特雷斯手持一份新的联合国科学报告，该报告警告称，存在轻微但真实的灾难性和不可逆转危害的可能性。他在联大一般性辩论中率先发言，呼吁对人工智能加强监管，并以生动甚至不祥的措辞警告可能出现的后果。

“让我们下定决心，生死攸关的决定绝不能交给机器。杀人机器人在我们的未来绝不能有立足之地，”古特雷斯在向世界领导人发表的告别演说中表示。他在十年前首次发表联大讲话时也曾就人工智能发出警告。

古特雷斯表示，世界需要“为负责任地推进人工智能创造条件，并增加必要的保障措施以应对风险”。在此背景下，联合国安理会将于周三讨论如何对该技术实施某种形式的管控，届时该领域的一些重量级人物将出席。

不到一小时后，特朗普对此完全不以为然。“美国也完全拒绝任何试图构建全球主义计划来控制人们谈论如此之多的人工智能的企图。现在及以后正式称之为超级智能，改了名字，”他说。

在特朗普发言之后发言的世界领导人们使用的是“人工智能”，而不是“超级”。

特朗普说：“每一项重大的新技术都会带来挑战，超级智能也不例外。”“然而，正是这群人曾说，由于全球变暖——这个名字后来因为地球变冷而不是变暖、且无人死亡而更名为气候变化——我们将在12年后全部死去。正是这些人现在又说人工智能将杀死我们所有人，机器人将攻击我们，一切都将彻底变成一场灾难。”特朗普指的是联合国2018年的一份报告，该报告概述了人类活动引起的气候变化的危险，即长期突破自前工业化时代以来国际商定的1.5摄氏度（2.7华氏度）的变暖阈值，并称这一时间点将在12年之后。

现在的研究表明，这一突破在未来几年内即将发生。那份报告以及其他科学文献并没有说所有人都会死。它说极端天气将变得更加危险，减少污染可以在未来82年内避免1亿美元的过早死亡。

此外，据美国国家海洋和大气管理局的数据，在过去的12年里，世界并没有变冷，而是变暖了0.8华氏度（0.45摄氏度）。

芝加哥大学计算机科学系主任亨利·霍夫曼表示，问题在于特朗普和古特雷斯都将这个问题简化为了毫无用处的东西。

霍夫曼在一封电子邮件中表示：“一方将其变成科幻电影，另一方则将其视作无关紧要的问题。两者都促使人们站队，而不是去应对真正的风险和可行的缓解措施。对于我们是否需要对强大的自主系统进行充分控制，本不该存在‘阵营’之分。真正有趣的辩论在于，究竟什么样的机制才能真正提供这种控制。”其他国家则希望确保在美中人工智能竞赛中不被抛弃，特朗普称美国在这场竞赛中正处于领先地位。法国总统马克龙和古特雷斯也将这一问题引向了保护儿童。

马克龙表示：“我们不要等到后果铺天盖地向人工智能砸来时才采取行动。我们必须现在就行动起来，保护我们的儿童和年轻人。”芬兰总统亚历山大·斯图布和其他领导人一样表示，人工智能将改变世界，这种改变可能是积极的，但也需要强有力的控制。

斯图布说：“人工智能是人类历史上最具影响力的技术。它将对科学、经济、政治、安全以及我们人性的本质产生影响。人类能够也应该掌握主导权。我们有选择。我们可以竞争、合作或放慢脚步。对我而言，合作是最好的前进道路。”英国首相安迪·伯恩汉姆在联合国大会期间举行的商业领袖会议上表示，他希望看到“一套统一的全球原则和标准”，在释放人工智能潜力的同时降低其风险。

他表示，打造“造福人类的人工智能”将成为英国明年担任二十国集团（G20）轮值主席国的工作重点。

在周一的演讲之前，政治风险咨询公司欧亚集团总裁伊恩·布雷默表示，人工智能有可能让世界变得更清洁、改善技术并改善生活，但也可能令人畏惧。布雷默说，试图应对人工智能或许就像应对气候变化一样，是联合国能够承担的最有意义的职责之一，但其权力是有限的。

周三举行的安理会人工智能会议将汇聚人工智能领域的几大巨头，其中包括最近对建立安全防护栏的必要性发出警告的人士。OpenAI首席执行官萨姆·奥尔特曼将首先发言，紧随其后的是Anthropic首席执行官达里奥·阿莫代伊，最后是Hugging Face的首席执行官兼联合创始人克莱芒·德朗格，该公司此前曾遭到一个失控的OpenAI程序的黑客攻击。

伊迪丝·M·莱德勒、吉尔·劳勒斯和詹妮弗·佩尔茨自联合国对本报道亦有贡献。

美联社的气候与环境报道获得了多家私人基金会的资助。美联社对所有内容负全责。请访问AP.org查阅美联社与慈善机构合作的标准、支持者名单以及资助报道领域。