过去一周，包括OpenAI的萨姆·奥尔特曼、Anthropic的达里奥·阿莫代伊和SpaceX的埃隆·马斯克在内的多位顶尖科技高管，加入了硅谷一众末日论者的行列，敦促放缓人工智能的发展。

他们说，这些高管担心人工智能工具会过快变得过于强大，并对人类构成生存风险。

为什么三位身家数十亿的科技公司首席执行官会一致认为，他们公司正在开发的技术可能过于危险？

硅谷的霸主们真的认为前沿人工智能模型有可能像Anthropic一位高级员工上周警告的那样“杀死所有人类”吗？这难道只是为吸引更多投资而鼓吹的又一个例子吗？

人工智能淘金热的受益者和人工智能安全投资的受益者，归根结底很可能是同一批人，即便在最新一轮末日论周期中人工智能股票近日有所下跌。

我们可能会浪费大量时间去揣测科技亿万富翁们的末日论或犬儒主义世界观。然而，无论这些CEO及其员工实际相信什么，有一件事是确定的：谈论生存风险是一种极其方便的方式，用以回避马斯克和Palantir CEO亚历克斯·卡普等法西斯亿万富翁所掌控的人工智能技术已经造成的已知危害。

硅谷领袖们再次抛出关于我们无法理解的生存风险的千禧年叙事，时机颇为可疑。毕竟，这些CEO发出警告之际，正值跨政治共识日益反对AI及其基础设施实际存在的危害蔓延。不妨看看，对数据中心的广泛反对以及课堂上对AI的禁令便是例证。

硅谷关于生存风险的讨论并非新鲜事。2023年，数百名技术研究人员、主要人工智能公司的首席执行官、投资者和学者签署了一封关于人工智能风险的公开信，信中只有一句话：“减轻人工智能带来的灭绝风险，应与流行病和核战争等其他社会规模的风险一样，成为全球优先事项。”国际社会对预防未来流行病和核战争的承诺本就薄弱得令人堪忧，这很难作为一个令人安心的基准，但公开信中的情绪却契合了如今典型的人工智能叙事，充满了神学色彩。据说一个临界点正在逼近，它可能导致地球生命的彻底毁灭——或者我们的救赎。

在技术资本主义的头面人物看来，这一临界点就是“通用人工智能”的诞生，也就是智力与人类相当或超过人类的系统。这些叙事说，从那时起，强大的超级智能机器将通过人工智能自我改进的递归循环而涌现。

我们被告知，如果这些人工智能系统不与人类利益“对齐”，它们造成的毁灭可能是彻底的。根据一个尤为疯狂的思想实验，我们未来的机器人霸主可能把地球上的一切都变成回形针。

另一种乌托邦式叙事则说，人工智能的魔法——人们描述它时，具体程度并不比比划魔法更高——将解决世间所有问题乃至更多问题，从气候毁灭、贫困、疾病，一直到死亡本身。

想想科技界亿万富翁比尔·盖茨和埃里克·施密特如何对人工智能处理已然造成毁灭性、极其巨大的能源消耗和用水问题不以为然。《纽约时报》报道称，施密特认为人工智能“潜力太大，不能让对气候变化的担忧挡路”。他们说，先进的人工智能将带来如此巨大的增长、如此繁荣、如此能拯救环境的技术、如此神圣的救赎，以至于只有一个心胸狭隘的技术恐惧者才会想阻止这些学习机器令人眩晕的进步。

超级人工智能将如何做到这一点？我没法告诉你。至关重要的是，那些正在把这种所谓的魔力——或恐怖——带给世界的亿万富翁和技术专家，也没法告诉你。而那些正把前所未有的、重新定义经济的巨额资本和能源投入数据中心和人工智能研究的人，同样无法阐明人工智能通往救赎的道路。

关键在于，我们这些处在食物链底层的人——消费者，或者也许是全人类——根本不可能理解这里正在起作用的力量。

我们应当对这些宣传性叙事保持怀疑。这并不是说人工智能产业没有改变世界。人工智能已经能做出非凡的事情，其中许多远远超出人类的能力；这些技术已经对工作领域、全球基础设施、国家暴力的运用，以及资本与能源的巨量流动产生了深远影响。

毕竟，人工智能并不是单一的事物。它是一系列基于所谓机器学习的方法，而机器学习基本上就是利用统计学从海量数据中寻找模式的算法，而且方式可能极其复杂。

人工智能产品和服务层出不穷，从文本和图像生成内容到推荐引擎（如Spotify和Netflix所使用的），再到欺诈检测系统和谷歌地图等导航系统。

没错，我们正淹没在人工智能垃圾、日益恶化的搜索引擎、被盗内容、深度伪造、令人尴尬的错误和幻觉之中。但也有科学家正在利用机器学习来彻底改变阿尔茨海默病的检测和治疗。

与此同时，人工智能系统被用来生成——并为种族灭绝中的杀戮名单辩护——或生成复仇色情内容，或按照种族主义路线填充预测性警务数据库。

人工智能童话的问题在于，它将“通用人工智能”的发展视为一个目的论的终点，把机器学习当前和潜在的各种应用统统压缩为一股不可阻挡的单一力量。

技术资本主义的代言人不去认真审视技术发展现有的危害与可能，反而更偏爱一个关于不可避免的审判日的故事：伟大的思维机器即将到来，要么毁灭我们，要么拯救我们。

关于机器学习实际能力与潜力的烦人问题被抛到一边。关于“智能”作为可计算品质以及作为一个混乱、充满争议的概念的黑暗历史，那些艰难讨论也同样被弃置不顾。

对于如何最好地——或最好不要——开发和部署先进机器学习技术，其中真正的不确定性与未知数被消解掉了——这些考量被留给硅谷的“伟人们”去定夺。

正如认知科学家哈根·布利克斯和机器学习研究员英格博格·格林默在其2025年出版的《我们为何恐惧》一书中所写：“如果事关人类存亡这样的重大利害，那么对真正存在的人工智能技术当前所产生影响的担忧——从过度能源消耗，到破坏艺术家和码头工人的生计，到引入网络安全漏洞，到延续并加剧歧视，到虚假信息和深度伪造，到助长大规模监控等等——就很容易被搁置一旁。”这篇题为《科技公司CEO的末日论调转移了人们对人工智能真实存在危害的注意力》的文章最初发表于The Intercept。