郭莉莉2026年9月28日

在硅谷，最让计算机科学家夜不能寐的噩梦是某种高度先进的人工智能使得人类无法阻止其发动全球无人机战争或引发核爆。

而在北京，应对之策或许简单直接：拔掉电源、切断网络，并将失控AI的责任人绳之以法。

在美国主要实验室声称先进模型已突破测试防护并入侵现实世界系统之后，部分科技高管与政府官员警告称人工智能对人类构成毁灭性威胁，并呼吁北京与华盛顿合作。

然而对许多中国民众而言，这些末日警告显得遥远且带有鲜明的西方色彩。在他们的认知中，执政党对某项技术失去控制的想法几乎不可思议。此前，官方已成功监管过其他可能引发动荡的技术，其中最典型的当属互联网。在疫情期间，政府通过封锁整个城市并追踪数以亿计的居民展现了其遏制重大危机的强大能力。

专注于中国人工智能与技术领域的硅谷科技作家阿芙拉·王（音）表示：“他们可以立即切断整个城市的电网，可以随时查没个人的手机。他们在物理世界中拥有巨大的掌控力。”

“鉴于党对社会拥有如此强效的控制，”她说，要如何让党相信“运行在电脑里的AI令人恐惧？”

2022年在北京，关停店铺周围设立的金属隔离栏。新冠疫情展现出，官方能够多迅速地封锁整座城市并利用大规模数字监控追踪数以亿计的居民。

一种更为审慎的解读认为，此类末日警告听起来像是阻止中国人工智能企业超越美国对手的策略。中国媒体就有报道指出，美国人工智能企业正通过“恐惧营销”来维持其市场领先地位。

“在国内行业圈或我身边的同行中，大多数人对此根本不予理会，”蔡杰说，他此前一直在清华大学从事人机交互技术和人工智能安全方面的研究。在他看来，对行业内许多人而言，关乎存亡的风险是一个极其遥远的议题。

“我们依然认为AI处于非常早期的阶段，”他指出。“大家的焦点依然完全集中在机遇与创新上。”

对部分人而言，人工智能末日论及其蕴含的末日降临与人类审判等观念带有鲜明的基督教色彩，显得极其陌生。一位博主将西方对人工智能的恐惧与玛丽·雪莱的小说《弗兰肯斯坦》中人类因试图挑战神明独有的造物权受惩罚的主题相提并论。

这名博主总结道：“这种叙事传统在中国文化中并不存在。”

总部位于北京的人工智能安全咨询机构安远AI(Concordia)的AI安全与治理主管方亮指出，中国传统的“天”或神的观念也能解释双方在对待该技术时的巨大差异。

他表示，中国文化强调“天人合一”，主张人是自然不可分割的一部分。“万物（包括AI）均来自自然，”他说，“因此，技术更多被视为共存的伙伴，而非注定带来毁灭的外来力量。”

上周四，特朗普总统与中国最高领导人习近平在白宫。部分科技高管与官员警告称，人工智能对人类构成生存威胁，并呼吁北京与华盛顿开展合作。

尽管如此，Mythos以及其他类似模型的发布在中国仍引发了担忧，Mythos是来自Anthropic的一款强大的前沿人工智能模型。官方已出台新指南并发出警告，防范人工智能体失控、被黑客利用或被用于制造生物武器。

监管部门已草拟一项网络犯罪法，要求人工智能公司建立监控机制，防止其模型被用于生成攻击性的恶意代码。

官方本月还更新发布了中国《人工智能安全治理框架》，是未来监管走向的重要风向标。该框架回应了硅谷关于“递归自我改进”(RSI)的担忧——即当人工智能系统足够强大，能够在极少或无需人类开发者干预的情况下实现自我迭代时，可能导致系统彻底脱控。

本月早些时候，国家互联网信息办公室高级官员王丽宏指出，由人工智能驱动的网络攻击已使传统防御体系形同虚设。她强调：“对极端的AI失控风险迫切需要保持高度警惕。”

一些中国研究人员多年来一直在预警人工智能发展过快的风险。2024年，复旦大学潘旭东团队研究发现，Meta与阿里巴巴的两款主流大语言模型已展现出自我复制的能力，这被视为人工智能超越人类的重要一步。

今年7月在上海举行的世界人工智能大会。

去年在一次人工智能安全学术会议上介绍该研究时，潘旭东表示，他和他的论文合著者“希望让大家真正地关注到这个风险，就是说，这样一个极端的人工智能不再是存在于科幻里，它是真正需要大家不断去讨论和关注的”。

但归根结底，在北京看来，人工智能与任何其他技术无异，只要经过周密规划，就能转化为服务于国家发展的强大力量。中国已出台了全球最严格的行业监管规定，明确要求人工智能生成内容必须进行标识，且人工智能模型在公开发布前必须通过官方备案与审批。

尽管中国建立了广泛的监管与测试体系，但在法律层面，尚未对人工智能系统被用于制造化学或生物武器等灾难性风险设定强制测试要求。

中国人工智能企业在安全举措的透明度上尚不及美国同行，并非所有企业都会在模型发布前公布安全评估结果。据安远AI统计，公布评估结果的企业在信息详尽度与报告频率上均存在差距；在2025年6月至2026年5月期间，中国前十大人工智能企业中仅有五家公开了相关评估结果。

总部位于上海的“中国AI安全开放社区”创始人莎拉·孙（音）认为，美国关于AI威胁的讨论客观上推动了中国本土的相关探讨。

但她同时指出，Anthropic首席执行官达里奥·阿莫迪对中国的强硬言论引发了反弹。阿莫迪在一封关于人工智能危险性的公开信中宣称，民主国家必须在人工智能技术上保持对中国等威权国家的领先，并呼吁进一步限制中国获取开发人工智能所需的先进芯片及关键设备。

莎拉·孙表示：“达里奥如此鹰派的姿态在此情境下适得其反。”

她指出，此类言论让近期关于人工智能的警告看起来更像是遏制中国发展的借口，而非对灾难性风险的真诚关切，这直接增加了他们在中国推广人工智能安全意识的难度。

她还说，“中国确实有一批人深切关注前沿人工智能风险，并致力于推动安全研究及国际协同。”

上周三，Anthropic首席执行官达里奥·阿莫迪在联合国大会发表讲话。

事实上，中国网络评论已将Anthropic贬称为“A畜”。官方背景的博客“玉渊潭天”针对阿莫迪等美国科技领袖直言：“他们唯一想放慢的是别人赶超的脚步。”

中国知名网络安全高管周鸿祎表示，应对之道绝非放慢脚步，而是借力人工智能提升防御能力。他在上周发布于网络的一段视频中指出：“用AI打败AI。你用AI攻击，我就用AI防守；你用智能体蜂群，我就用安全智能体跟你对抗。”

本月早些时候，中国人工智能初创企业DeepSeek的一名工程师在一篇网文中写道，允许Anthropic垄断全球最先进的人工智能工具，其严重程度“不亚于”二战时期希特勒率先掌握原子弹技术。

在此背景下，即使中国领导人习近平在华盛顿曾向特朗普总统提出两国应“善用人工智能”，中美之间就人工智能安全达成任何协议并推动实质变革的前景依然渺茫。

复旦大学美国研究中心副主任赵明昊总结道：“如果美国声称要放慢脚步，中国不会相信；如果中国声称要放慢脚步，美国也同样不会相信。”

Pei-Lin Wu对本文有报道贡献。

郭莉莉(Lily Kuo)是《纽约时报》报道中国记者，常驻台北。