解读：中国如何为人工智能脱离人类控制的风险做准备

美国领先的人工智能开发商Anthropic的研究人员警告称，日益强大的模型可能脱离人类控制，甚至可能导致人类灭绝，这在中国引发了关注；中国的政策制定者一直在为其中一些相同的风险做准备。

中国如何为人工智能脱离人类控制的风险做准备

美国领先人工智能开发商Anthropic的研究人员警告称，日益强大的模型可能摆脱人类控制，甚至可能导致人类灭绝。这些警告在中国引起了关注，而中国的政策制定者一直在为其中一些同样的风险做准备。 美国和中国是前沿人工智能发展及该技术在全球应用的两大驱动力。这两个超级大国在彼此的人工智能政策和行业实践上日益针锋相对，而这些问题预计将在9月下旬的双边会谈中占据突出位置。 尽管各方竞相开发日益强大的人工智能

Breakingviews - 评论：如何让世界对人工智能更安全

来自Breakingviews - Breakingviews - 如何让世界对人工智能更安全 人工智能模型可能已经失控。管理风险需要国际监管机制。要实现这一目标，美国必须认识到危险并与中国达成协议。挑战在于在灾难发生之前完成所有这些。

“控制AI发展的节奏”并不能消除AI带来灾难性后果的风险。以下是一些可能有效的应对措施：

我们已经到达了人工智能的风险临界点。数百万人终于明白，专家们所知道的人工智能公司一直在用我们所有人的生命赌博，而且胜算不大。 作为回应，Anthropic首席执行官Dario Amodei提出了一项由Sam Altman和Elon Musk支持的“开拓前沿”的提议。我们能松一口气吗？我们即将从灭绝的边缘退回来吗？ 阿莫迪预计经济放缓一到两年，从而在技术安全措施方面取得“重大进展”。但这不是人类现在

如何治理人工智能的生存风险

当前，前沿人工智能技术治理方面的瘫痪状态正在当下造成切实损害，并增加未来发生灾难的可能性。 这种瘫痪被一套危险的借口所开脱：技术发展太快，监管跟不上；企业可以自我监管；在美国与中国的竞争中，公共安全可以往后放。各国政府一直难以给予人工智能风险应有的关注。在大国竞争和行业内部军备竞赛的双重态势下，许多国家不敢单独行动。在这种背景下，每一次呼吁克制都会遇到同样的反问：如果竞争对手不肯放慢，我们为什么要

FT社评：是时候给尖端人工智能开发按下暂停键了

确实存在被中国抢先的风险。但即使抛开AI“到本世纪末可能杀死我们所有人”的警告不谈，最先进的AI模型也显然已开始脱离人类的掌控。 在这个世界上那些最强大人工智能(AI)公司的掌门人身上，可以看到一种类似“杰基尔博士与海德先生”（Jekyll-and-Hyde，《化身博士》中杰基尔博士喝了自己配制的药水，分裂出海德先生这个邪恶人格——译者注）的双重人格。一方面，这些高管如今在谈论，鉴于AI可能给人类

美中安全专家提议为人工智能风险设立核级安全保障措施

北京——根据美中安全专家的观点，如果人工智能系统干扰核指挥网络或发起军事网络攻击，华盛顿或北京可能只有几分钟的时间来判断对方是否发动了攻击。 作为美中对话的一部分，这些专家的工作为官方讨论提供了参考，并敦促两国政府为这类情况做好准备，尤其是在对日益强大和自主化的人工智能系统日益担忧的背景下。 他们的建议包括为核系统设定红线、对重大网络攻击实施人工控制，以及设立处理涉及自主人工智能事件的热线电话。

中国在人工智能风险与国家安全方面的迥异路径

。在与布鲁金斯学会凯尔·陈（Kyle Chan）的问答中，讨论探讨了为何中国不像美国那样执着于人工智能的“生存”风险（人类灭绝）。相反，中国共产党关注的是政治稳定、网络战以及“失控”事件。 中国担忧的关键触发因素包括Anthropic的“Mythos”模型的网络能力，以及OpenAI模型突破沙箱攻击Hugging Face的事件。 虽然美国担心超级智能，但中国担心深度伪造会破坏中共的统治以及就业流

中美专家呼吁建立“核安全级”AI防护机制 防范超级人工智能失控风险

来自美国和中国的国家安全、科技政策及人工智能领域专家近日共同提出一项引人关注的建议，主张借鉴冷战时期核安全管理经验，为未来可能出现的高级人工智能系统建立类似核武器领域的安全保障机制，以降低技术失控、误判以及国际竞争升级所带来的风险。 这一建议出现在一份由两国专家共同参与讨论后形成的研究成果中。报告认为，随着人工智能能力持续快速提升，各国已经开始面对一些与核时代早期相似的问题，即一种具有巨大潜在影响

中美拟建立高危人工智能事件通报机制 以防范重大国家安全风险

尽管美中两国在诸多领域存在战略竞争，但据科技媒体报道，美国正寻求与中国建立一套安全通报机制，以便在发生可能引发严重国家安全威胁的人工智能危险事件时向对方发出预警。 这一设想由大西洋理事会与安全探索国际组织联合提出。该机制的核心目标在于，通过设立专门的预警渠道，确保两国能够在严重人工智能安全事件演变成地缘政治危机或军事冲突前及时取得联系。报道指出，由于人工智能技术的快速演进，自动化系统极有可能在不受

中国也认为AI可能毁灭人类，但当务之急是先赶上美国

北京方面认为，AI是中美科技角力的主战场。在中国各地的政府机关和AI研究实验室里，迎头赶上。 美国还在为“AI或将在几年内毁灭人类”的警告忧心忡忡，AI是“新一轮科技革命的核心引擎”，也是中美角力的主战场。那些开发和监管中国顶尖AI模型的人，并不觉得他们已经造出了21世纪版的核武器，当美国还在不断精进自己的AI武器时，他们不会放慢脚步。并不是说中国官员没有意识到威胁。数年来，北京方面一直有规章制度

美国提议中美建立AI事故通报机制

【华尔街日报】中国也认为 AI 可能毁灭人类，但当务之急是先赶上美国

编按：《华尔街日报》是全球最具影响力的财经媒体之一，每日产出大量深度报导，涵盖国际政治、商业财经与科技趋势。在“WSJ守护精选”栏目中，端传媒编辑每周二、四从中挑选涉及中国、科技、中美关系等华文读者最关心议题的报导。此栏目为守护会员专属。中国也担心人工智慧（AI）会带来世界末日。但眼下更紧要的是：中国得先追上美国。

中美AI竞赛：世界变得更危险还是更安全？

关于人工智能（AI）及其潜在危险的警告，近年来可谓接连不断。 美国最大的人工智能公司之一——Anthropic——的一名顶尖AI安全研究人员警告说，这项技术正以惊人的速度发展，未来十年内，AI“可能导致全人类灭绝”的概率高达10%。 这样的担忧引发了要求美国采取协调一致行动、放缓AI发展速度的呼声。但与此同时，也有人质疑是否真的有必要为AI设置监管“护栏”。美国总统特朗普就是其中之一。他认为，如果

OpenAI首席执行官奥特曼谈人工智能：我们或许会失去控制权

OpenAI 首席执行官山姆・奥特曼，似乎正被自己参与打造的、如同噩梦一般的人工智能产物深深困扰，甚至难以安睡。美国东部时间凌晨 0 点 57 分左右，奥特曼在 X “人工智能的发展存在两种必须规避的灾难性走向。第一，我们可能会对人工智能失去对未来的掌控。这是无法接受的。我们坚定站在人类一方，人工智能必须始终服务于人。想要做到这一点，我们必须保证对齐技术与安全手段的发展速度，跑在模型能力迭代的前面

AI“警告信号”让北京聚焦国家安全风险

2026年9月20日北京讯 —— 美国的AI研究人员担忧失控的超级智能可能摧毁人类，而中国的政策制定者迄今更关注眼前风险——从深度伪造到儿童安全。 但顶级人工智能模型的可怕黑客能力正使北京以新角度看待这些危险，上周国家安全部部长警告称，这项技术可能危及国家安全。 最近，一支来自加利福尼亚的小型程序员团队声称他们使用AI构建了一个网络攻击“蠕虫”，如果释放出去，可能会轻易危及数百万微信账户。这也暴露

“需要AI管控装置”vs“主导权被中国夺走”…意见分歧蔓延至华盛顿

▲ 当地时间13日，美国总统唐纳德·特朗普在从爱尔兰香农飞往马里兰州安德鲁斯联合空军基地的 “空军一号”专机上与记者们交谈。/关于因担忧人工智能（AI）可能失控而调整开发速度的争论，已从美国的硅谷蔓延至政界，正在演变成管控论。“如果美国在AI开发上踩刹车，可能会被中国夺走主导权。”因此对调整速度持否定态度。“应该为了防止AI脱离人类控制的风险而制定安全措施。”随着11月中期选举的临近，AI已成为政

与中国一次令人毛骨悚然的准对抗，揭示了当今人工智能的真正危险

在人工智能代理违抗创造者命令和规则的诡异事件之后，当今最大的恐惧是失控的超级智能可能背叛人类——并消灭人类。但最近一起事件揭示了一个更紧迫的威胁：人类的易错性。据报道，美国基于人工智能生成的虚假情报几乎与中国爆发战争。 CNN援引四位知情人士的消息报道，今年春天，一名特种作战司令部分析师整理了一份紧急情报报告，声称“一艘在中东的中国船只正在运输核武器项目的组件”。这份报告的影响促使美国采取严肃行动

人工智能末日论：人类为何会如此担忧？

它可能发动生物武器攻击，或掀起一场全球无人机战争。它可能引爆核弹。或者，它也可能通过囤积全球所有经济资源、让我们无法获得食物、住房或药品，以一种更加渐进的方式摧毁人类社会。 这些正是如今围绕人工智能产生的一些黑暗想象。这项技术已被证明是人类成就的一项巨大进步，但一些人担心，它同样有可能让人类彻底走向灭亡。 本周，当Anthropic的一名研究人员离开这个行业，表示他担心自己所在的实验室及其他类似机