你好，欢迎来到TechScape。我是布莱克·蒙哥马利，Guardian的美国科技编辑。今天我们来聊聊科技圈过去一周里闹得沸沸扬扬的AI安全风波。
为什么这条关于AI末日的警告能引发如此大的反响，而其他那么多警告却没能做到？
不到一周前，一位年轻的Anthropic研究员在X上宣布从这家AI巨头辞职，这条帖子震动了硅谷、华盛顿特区，甚至北京。
“构建AI的人真心相信，它可能在这个十年结束前杀死我们所有人，”雅各布·考克森写道。
据X的统计，自那以后，这条帖子已被浏览1.71亿次。为什么它能传播得这么远？
这并非人工智能业内人士第一次发出可怕警告。过去几年里，每隔几个月，就会有一名人工智能研究员在危机时刻辞职，宣称末日即将来临。他的这番宣告出现在一个独特的政治交汇点，一个公众高度紧张、充满恐惧与愤怒的时刻。
大声宣称你在硅谷的同行在人工智能安全方面失职，这种事和这些公司本身一样由来已久。2023年，OpenAI董事会因安全担忧解雇了萨姆·奥尔特曼。五年前，达里奥·阿莫代伊从OpenAI出走，目标是创办一家“安全优先”的实验室。2015年，奥尔特曼和埃隆·马斯克创立OpenAI，以制衡谷歌在人工智能领域的做法。马斯克曾起诉奥尔特曼未能履行一项根本性的安全承诺，但败诉了。
知名人工智能研究者纷纷把预测末日当作自己的第二职业。被誉为“人工智能教父”的诺贝尔奖得主杰弗里·辛顿早在2023年就表示，这项技术可能在未来三十年内导致人类灭绝。此后，他又缩短了这一时间线。他因与考克森相似的理由从谷歌辞职。自那以后，辛顿便一直穿梭于各类演讲场合，预言末日将至。
辛顿的辞职甚至引发了立法者的重大反应。在美国，乔·拜登发布了一项行政命令，要求人工智能公司进行安全测试。国会传唤人工智能首席执行官们接受质询，尽管这几乎没有促成任何立法行动。在欧盟，《欧盟人工智能法案》得以通过，部分原因正是人们对辛顿警告的强烈反应。
然而，我们又一次陷入这样的境地：几乎没有有意义的监管在阻止人工智能造成的危害，这种感觉令人不堪重负。那么，为什么考克森那番末日般的宣言会引发更深层的反响？
首先，考克森呼吁加强安全的说法之所以可信，有几个原因。他曾在内幕层面接触过Anthropic和OpenAI，并在那里工作了五年。他在本可获得Anthropic股权之前辞职，展现了直言不讳的个人代价。而他的同事们——仍在Anthropic领取薪水——也证实了他的说法，即许多AI研究人员认为AI有可能导致人类灭绝，其中一位同事估计这种结果发生的可能性超过10%。
AI领域近期发生的事件让世界末日般的说法变得更加可信。今年早些时候，在安全测试期间，由OpenAI运营的一群AI智能体失控，突破隔离，以惊人的协调性入侵了多个网站和组织。周四，Anthropic详细说明了犯罪分子和流氓科学家如何试图利用Claude制造生物武器。
“这次情况不同的原因在于，失控的人工智能不是出现在未来，而是已经发生在过去。人们已经看到了它发生的证据，”未来生命研究所联合创始人马克斯·泰格马克如此辩称。该研究所已从加密货币以太坊的亿万富翁创始人那里获得了数亿美元的资金。（泰格马克的组织早在2023年就呼吁放缓人工智能的发展，当时遭到了阿莫代伊的拒绝。）“如果你在1942年试图让人们担忧核冬天，那祝你好运。人们会问核武器是否可能存在的问题，”泰格马克说。“当时的物理学家对此心知肚明，但你没法让普通人恐慌起来。那全是理论上的。对于人工智能，在这件事发生之前也全是理论。现在，关于你是否会失去控制的争论已经结束了。”然后是背景。
美国社会对技术的整体情绪如同易燃物般一触即发，而关于末日即将来临的论调更是如火上浇油。这个国家正经历着一场多层面的技术反弹。生活在主要科技中心之外的人们，既在物理层面感受到数据中心带来的压迫，又在象征意义上体会到人工智能对职场的侵占。
笼罩在这个国家上空的是科技亿万富翁们——他们掌控着巨额财富和全球通信渠道——在美国政治中施加影响，其竞选捐款数额无人能及。“至少在过去一年多的时间里，数据中心的反对声浪持续高涨，这使得支持人工智能监管成为新的共识，也无疑让支持人工智能产业变成了一个非常有毒的标签，”AI Now研究所联合执行主任、美国联邦贸易委员会前人工智能高级顾问安巴·卡克表示。
相关公司对考克森做出了积极回应，这一点不容忽视。它们所承诺的事项具体而有力。
“这让Anthropic等公司得以立即将自己定位为应对这些恐惧的主要专家。如何解决这些问题——从各方面来看，这些问题要么是它们自己造成的，要么它们最有能力预防，”卡克说。
最后两点想法。人工智能信任危机之广泛，从一件事上可见一斑：势不两立的各方竟联手应对。生命未来研究所今天在华盛顿举办一场推动人工智能安全的集会，领衔人物是佛蒙特州进步派参议员伯尼·桑德斯和唐纳德·特朗普前幕僚长史蒂夫·班农，而这两个人在其他议题上一直是死对头。
为什么人工智能行业里男性如此之多——只有人工智能领域的男性表达了对人类灭绝的担忧——他们正处于对自己工作可能导致灭绝的危机的痛苦之中？
“这些人当然相信他们所说的话。这不是边缘观点，”人工智能领域通讯《Transformer》的作者沙基尔·哈希姆说。“我听到的最好的解释是，我们正在试图建造一种比我们更聪明的东西，就像我们比猴子更聪明一样。我们的存在对猴子来说并不太好；AGI的存在对我们来说可能也不会太好。”