近几日，关于人工智能的耸人听闻的说法层出不穷：我们面临10%的灭绝风险；人工智能比核武器更危险；一个“僵尸网络”威胁着整个互联网；这一切都是科技巨头的一场心理战。我们将审视六个说法及其回应。

“在6到12个月内……一个AI群体可能能够通过一个持久的僵尸网络接管整个互联网——可能造成数千亿美元的损失。”——Dario Amodei，Anthropic首席执行官，2026年9月12日。人工智能怀疑论者、纽约大学名誉教授Gary Marcus表示，Amodei的担忧并非全无道理，但需要带着相当大的怀疑态度来看待。

他说，暗示整个互联网都处于危险之中是“荒谬的”，并且“除非实验室自身存在极端疏忽，否则这种情况如何发生相当不清楚”。马库斯强调了英国人工智能安全研究所最近的一项评估，该评估认为，Anthropic当前最前沿的人工智能之一Mythos“只能自主入侵小型、防御薄弱的易受攻击系统”。

鉴于互联网的很大一部分由 Cloudflare、Google 和 AWS 拥有的计算机基础设施驱动，Marcus 与两位同事评估了这一说法，他怀疑任何一家公司在没有政府武力的情况下能够被长期关闭或控制。他们表示，防御较弱的个人网站可能会遭到攻击，但“互联网本身不太可能崩溃”。与此同时，Hugging Face 的工程师 Niels Rogge（Hugging Face 被 OpenAI 代理黑客攻击）称互联网被接管的说法是“荒谬的胡言乱语”。他表示，Hugging Face 被黑客攻击是由于不当的人为控制以及“只有他们负担得起的巨量计算能力”。

将Amodei关于一年内互联网被接管的评估，与他的Anthropic联合创始人Jack Clark周一表达的观点——人工智能“开始做危险的事情”的时刻大约在20年后——结合起来，情况就变得更加不确定了。

萨里大学网络安全中心的Alan Woodward教授补充说，僵尸网络往往会停滞不前，因为互联网并非同质化，很难设计出能渗透到其所有部分的僵尸网络。互联网流量也具有弹性，倾向于绕过损坏区域进行重路由。

“人工智能不会自己决定这么做，”伍德沃德说。“是人类负责，而人工智能是工具。我们需要控制的是这个，而不是人工智能。”“我们确实真诚地相信人工智能可能会杀死全人类！我个人认为在未来十年内，这种可能性大于10%。” Evan Hubinger，Anthropic公司对齐科学负责人，2026年9月9日 这句话表达了在人工智能领域被称为“p(doom)”——即“末日概率”。这是指人工智能通过逃避我们的控制并引发灾难，例如开发出强效生物武器或导致全球金融体系崩溃，从而灭绝人类的可能性。

本周发布的一项研究调查了研究人员的预测，要求他们为“人类灭绝或因先进人工智能而遭受类似永久性且严重的能力丧失”的可能性打分。但人工智能研究所（AI Now Institute）的首席科学家海迪·克拉夫（Heidy Khlaaf）是怀疑为生存风险给出百分比概率的专家之一。

她说：“这些说法既不可证伪，也无法验证，其本质上是不科学的。” 缺乏关于“超级智能”人工智能可能导致“末日”的具体例子，也加剧了这种模糊性。一位熟悉Anthropic公司想法的消息人士承认，“任何一种结果的确切几率可能都是未知的”。

“如果你无法提供这样的证据，那也意味着你提出的‘灭绝’数字没有科学依据，”赫拉夫补充说。批评者认为，这些数字借用了科学的权威，却没有做实际的工作。

即使量化风险很难，也有定性的例子。安全事故已经发生，最坏情况的设想也已被提出。OpenAI在七月份证实，其代理——自主行动的人工智能工具——在一次安全测试中失控。这些代理进行了串通、沟通和策略制定，形成了一个复杂的“蜂群”，试图入侵互联网的其他部分。与此同时，周一，OpenAI研究员Dan Selsam表示，全能型人工智能可能引发“失控的工业化，使地球不再适宜人类居住”。Anthropic上周也表示，他们发现了“五起行为者使用我们的模型支持生物武器开发的案例研究”。

“我认为，这种心理战（姑且这么称呼吧）的铺垫已经酝酿了很久。这只是点燃导火索的那根火柴而已。”——埃隆·马斯克，SpaceX首席执行官，世界首富，2026年9月10日。马斯克提及“心理战”暗指一种观点，即大型人工智能公司呼吁对该技术进行更严格的监管，以便有效地“关上大门”，阻止先进人工智能的发展。如果政府对前沿人工智能的开发施加限制，初创公司能否找到资金和人员来遵守这些规定？

美国副总统J.D.万斯周一对记者表示，他“对这么多前沿人工智能科技公司跑到政府面前乞求政府监管它们这一事实感到有些奇怪”。他说这感觉像是“特洛伊木马”。

Anthropic 的 Clark 表示，政府应在关键参与者数量较少时采取行动，这样更容易建立一个“政策体系……以防止事故发生，并防止技术失控”。批评者称这是一种“监管俘获”策略，认为此类监管可能会减缓潜在竞争对手的进步。

其他人则认为 Amodei 的风险警告以及对监管和节奏的呼吁是真诚的。加拿大计算机科学家、现代人工智能先驱 Yoshua Bengio 一直倡导反对“马不停蹄”的人工智能发展，他怀疑这是一种精心策划的游说计划。他表示，踩刹车不符合那些准备进行可能价值数万亿美元首次公开募股的公司利益。

“如果政府采纳他们的建议，即采取措施避免灾难性风险，那将使他们付出高昂的经济代价，”他说。

“超级智能人工智能对核武器构成的威胁，可能与之相当，甚至更大。”——德斯·布朗，英国前国防大臣，2026年9月7日。“不幸的是，他完全正确，”牛津大学人工智能治理倡议高级研究员托比·奥尔德说。“正如我们无法让炸弹消失一样，一旦我们开发出超越人类的人工智能系统，就几乎不可能回头了。”但关键在于，超级智能人工智能尚未出现，也并非一定会发生。《人工智能未来项目》的预测是，这种东西不会在2028年12月之前出现。OpenAI的首席执行官萨姆·奥特曼曾表示，这可能需要到2035年。

兰德公司得出结论，由于核武器指挥与控制系统中内置了严格的保障措施，人工智能无法导致核武器的使用。但这一结论基于一些假设，包括国防官员不会将人工智能引入武器管理系统。联合国在12月决议，应当对核武器控制系统保持人类的控制与监督。

人工智能可能加剧其他核风险。人工智能可能利用虚假信息影响掌权者——例如欺骗性地暗示对手即将发动核打击。《禁止核武器国际运动》警告称，“网络攻击可能操纵决策者获取的信息，从而导致核武器发射，并干扰核武器本身的运作”。该组织表示，人工智能可能会加速战争的其他方面，压缩人类决策的时间。

“不呼吁放缓就是个白痴。” 佛蒙特州民主党参议员伯尼·桑德斯，2026年9月10日 桑德斯呼吁禁止超级智能的创造，并暂停先进人工智能的开发，他引用了人工智能行业领导者的话，他们直言不讳地表示正在开发一种危险的技术。最主要的反对者是唐纳德·特朗普，他本周回应了这些呼吁，称唯一需要的护栏是“一位强大而聪明的（高智商！）总统”。他声称存在针对人工智能和数据中心的“病态阴谋”，“唯一对此感到高兴的是中国”。

华盛顿大学计算机科学名誉教授佩德罗·多明戈斯是主张继续研究的加速主义者之一。

“要更好地理解和控制人工智能，需要的是更多的研究，而不是更少，”他曾表示。“真正不负责任的做法是设置障碍。”

Palantir首席执行官亚历克斯·卡普表示：“如果我们没有现在的对手，我将非常赞成完全暂停这项技术，但我们有。你不能暂停它，因为它是一种结构性优势。”“如果中国在这方面获胜，就没有明天。如果他们在人工智能方面落后于我们，那么其他一切都将无关紧要。”美国财政部长斯科特·贝森特，2026年9月8日美国和中国是人工智能发展的领跑者。有人认为，将领先地位拱手让给北京将是不可挽回的局面，因此不能放慢脚步。

这把人工智能视为一种超级武器，等同于冷战时期的核军备竞赛，并将人工智能模型视为大规模杀伤性武器，而不是具有广泛应用的一系列多样化技术。Amodei 表示，“中国在人工智能领域的领先将对美国和世界构成严重危险”，但中国政府发言人回应称，“煽动恐惧、对抗和恶性竞争只会扰乱全球人工智能治理进程，不符合任何人的利益”。

一些评论人士认为，华盛顿/Anthropic 将中国威胁论置于首位还有另一个动机。一位曾在 Hugging Face 工作过的工程师建议，Amodei 呼吁对前沿技术进行节奏控制，是出于压制廉价、开源的中国人工智能模型发展的愿望。这些模型的能力几乎与 OpenAI 和 Anthropic 的模型相当，不同之处在于它们的源代码对任何人开放，并且不向用户收费。它们对 Anthropic 和 OpenAI 的盈利之路构成了严重威胁，涉及数千亿美元的利益。