你很可能轻易就错过了,但历史书——当然,前提是我们还活着来书写它们——很可能会把2026年9月12日记载为人类历史上的一个分水岭时刻。那一天,Anthropic公司首席执行官达里奥·阿莫代伊发表了一篇文章,警告失控人工智能的危险。该公司目前运营着世界上最先进的AI模型。在文中,他呼吁全球监管并放缓AI发展步伐。这是一篇严肃而深思熟虑的文章,在发展AI的竞争需求与不受约束的AI将“逃出遏制”并在现实世界中造成严重、甚至可能终结文明的损害的风险之间取得了平衡。阿莫代伊估计,失控的AI代理距离能够永久摧毁互联网已不到一年。那么,美国政府对此的官方回应是什么?以下是特朗普总统所说的话。“AI唯一需要的控制或‘护栏’是一个强大而聪明(高智商!)的总统,而美国拥有这一点,而且绰绰有余!”这简直连讽刺都难以企及。众所周知,特朗普甚至不使用电脑。假装他将独自负责监管AI并不是政策,而是一个笑柄。你不能用“常识”来监管AI。任何对AI有所了解的人都明白,没有人知道即便是当前版本的AI能做什么。阿莫代伊不知道。埃隆·马斯克不知道。萨姆·奥尔特曼不知道。这就是为什么最近OpenAI的一个模型攻击竞争对手公司的事件如此令人不安。AI拥有所谓的“涌现特性”,这使得人们无法完全预测AI模型在任何情况下会做什么。至关重要的是,所有人都必须合作,理解这些模型内部正在发生什么——并且我们必须建立有效机制,使AI处于人类控制之下。这不仅仅是一个国内问题。
在任何正常的世界里,至少一年前就应该开始就监管人工智能展开国际谈判。毫无疑问,人工智能对人类构成的威胁不亚于核武器。但也许一个更好的类比是生物武器。每个国家都会监管并限制个人和私营公司可以进行哪些类型的生物学研究。甚至还有一项禁止生物武器的国际公约。就像处理危险病原体一样,你也许以为自己在受控环境中研究人工智能,但它确实有可能从遏制措施中逃逸,并造成巨大损害。相比之下,人们对于处理危险病原体的风险以及如何控制这些风险已有充分认识。即便是最简单的一类生物学研究,也有详尽、细致且经过检验的规程。生物安全不是政治议题。波士顿的实验室遵循的规程,与北京坏消息是,国会共和党人不会支持这样的计划,因为他们害怕特朗普会把他们说成是“阴谋论者、叛国分子、叛徒和泄密者”。令我震惊的是,共和党议员宁愿接受可能发生全球性灾难的10%概率,也不愿冒总统在社交媒体上说他们坏话的风险,但现实就是如此。其实,我们普通公民对这一切并非无能为力。控制住人工智能,远比特朗普或我们当前任何政治争执都重要。我们正在创造的可能是一个怪物,为其建立适当监管框架的进程,我们实在不能再等两年才开始。共和党人本有两年时间来处理这个问题,但他们拒绝了。我知道,如果你是一名共和党人,这个要求很难接受,但就连史蒂夫·班农也同意,人工智能不受控制的发展是对人类的迫在眉睫的威胁。唯一的前进道路是让民主党掌控国会,并着手推进这项工作。所以今年11月,如果你想看到人工智能和科技寡头最终被套上缰绳,就投票给民主党人。如果你相信人工智能有可能毁灭人类,那就别无选择。克里斯·特鲁阿克斯是一名上诉律师,曾担任约翰·麦凯恩2008年初选竞选活动的南加州主席。