目前，最大的希望是双方继续对话。但人工智能改进的速度及其带来的风险要求更大的紧迫性。

哈维尔·帕尔马

中美谈AI安全：共同的风险，不同的恐惧

中美谈AI安全：共同的风险，不同的恐惧 邓聿文：中美领导人讨论AI安全，当然有助于建立最基本的危机沟通和军事红线。但真正的较量，将发生在“安全”这个词由谁解释上。 美国财政部长贝森特和中国副总理何立峰在纽约举行的新一轮经贸会谈，除了关税、稀土、美国农产品和波音飞机仍是重要议题外，增加了人工智能安全这项新内容。贝森特向中方提出建立AI安全事件通报机制，双方同意启动相关对话，并把这一建议交给即将举

中美达成“超级智能”沟通机制 两国首次建立AI重大风险联络渠道

在人工智能竞争持续升温之际，中美两国正尝试建立新的安全协调机制。根据双方最新达成的安排，中美同意设立专门针对“超级智能”（Super Intelligence，简称SI）风险的双边沟通渠道，以加强未来在前沿人工智能领域的信息交流与风险管理。 这一安排被视为近期中美人工智能对话取得的重要成果之一。根据美方公布的信息，双方将在未来数月内继续推进相关机制建设，并计划于11月前举行新成立的“中美超级智能对

观看：是“伟大”还是“令人担忧”——人工智能是否应该受到约束？

‘Great’ or ‘alarming’ - Should AI be reined in? 人工智能的快速发展及其对人类构成风险的担忧，因多家AI公司高管和员工的系列警告而备受瞩目。 Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）本周末呼吁放慢人工智能的发展速度并加强监控。 英国广播公司（BBC）采访了华盛顿特区的人士，了解他们对这项技术及其快速发展的担忧程度。

“太棒了”还是“令人担忧”——AI 应该被约束吗？

人工智能的迅猛发展以及对该技术给人类带来风险的担忧，因人工智能企业高管和员工的一系列警告而备受瞩目。 Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）在上周末呼吁放慢人工智能的发展步伐并对其进行更密切的监督。 BBC采访了华盛顿特区的民众，以了解他们对这项技术及其快速发展的担忧程度。

中美首脑会谈寻求以“稳”为先

中美两国在上次5月会谈的基础上，以稳定关系为重心，持续推动高级别官员等的对话。 但在争夺主导权的AI等尖端技术领域达成妥协的空间有限，台湾问题等也可能成为导火索……

为何此时推进AI对话？专家：中美合作能实现三重目标

中美人工智能（AI）领域的竞争与合作是当前最热话题之一。为什么中美选择在此时推进AI对话？为什么AI议题对中美如此重要？中美在AI领域还有哪些合作空间？凤凰卫视连线上海外国语大学特聘教授黄靖解读。黄靖教授表示，人工智能一旦失控将威胁全人类。中美开展AI合作可以实现三重目标：一是增强发展的稳定性与可预期性，防范AI失控；二是双方取长补短，共同推进技术进步；三是通过合作，两国都能够取得比各自单独发展更

如何治理人工智能的生存风险

当前，前沿人工智能技术治理方面的瘫痪状态正在当下造成切实损害，并增加未来发生灾难的可能性。 这种瘫痪被一套危险的借口所开脱：技术发展太快，监管跟不上；企业可以自我监管；在美国与中国的竞争中，公共安全可以往后放。各国政府一直难以给予人工智能风险应有的关注。在大国竞争和行业内部军备竞赛的双重态势下，许多国家不敢单独行动。在这种背景下，每一次呼吁克制都会遇到同样的反问：如果竞争对手不肯放慢，我们为什么要

中美AI竞赛：世界变得更危险还是更安全？

关于人工智能（AI）及其潜在危险的警告，近年来可谓接连不断。 美国最大的人工智能公司之一——Anthropic——的一名顶尖AI安全研究人员警告说，这项技术正以惊人的速度发展，未来十年内，AI“可能导致全人类灭绝”的概率高达10%。 这样的担忧引发了要求美国采取协调一致行动、放缓AI发展速度的呼声。但与此同时，也有人质疑是否真的有必要为AI设置监管“护栏”。美国总统特朗普就是其中之一。他认为，如果

人工智能军备竞赛能停止吗？

人工智能的进展足够快，安全事件足够令人毛骨悚然，而企业长期以来的警告也足够值得认真对待。为了避免灾难，中国和美国需要比双方所愿更紧密地合作。美国将难以在保持对华领先的同时确保该技术的安全。

AI风险当前，勿做事后诸葛亮

沃尔夫：放慢人工智能创新速度，无论在实践还是政治上都困难重重，但这是正确的选择。 人工智能(AI)行业的一些领军人物正在呼吁放慢创新速度。Anthropic一名研究人员辞职时表示，“那些正在开发AI的人是真心相信，到本十年结束时，它有能力杀死我们所有人”。Anthropic的达里奥•阿莫代伊(Dario Amodei)本人也撰文称，“我们必须放慢提升AI模型能力的速度”。OpenAI的萨姆•奥尔特

中美关系专家答凤凰：两国元首持续沟通，本身就有积极意义

乔治·布什美中关系基金会总裁兼首席执行官方大为曾任美国驻华外交官，长期从事中美关系事务。他在接受凤凰卫视驻纽约记者吕又明专访时指出，与五六年前相比，中美关系目前处于一个更好的位置，双方互动的基调正在转向温和与建设性。他认为，两国元首持续沟通本身具有积极意义，而AI安全等领域也存在现实合作空间。凤凰卫视记者吕又明：“大为，非常感谢您的时间。您如何看待当前的中美关系？”方大为：“如果把今天同五六年前相

FT社评：是时候给尖端人工智能开发按下暂停键了

确实存在被中国抢先的风险。但即使抛开AI“到本世纪末可能杀死我们所有人”的警告不谈，最先进的AI模型也显然已开始脱离人类的掌控。 在这个世界上那些最强大人工智能(AI)公司的掌门人身上，可以看到一种类似“杰基尔博士与海德先生”（Jekyll-and-Hyde，《化身博士》中杰基尔博士喝了自己配制的药水，分裂出海德先生这个邪恶人格——译者注）的双重人格。一方面，这些高管如今在谈论，鉴于AI可能给人类

人工智能安全辩论

联合国聚焦人工智能风险 OpenAI与Anthropic负责人呼吁加强警惕与合作

23/09/2026 - 23:27 多家人工智能企业的负责人周三(9月23日）在联合国表示，人工智能的发展需要更高程度的警惕。Anthropic首席执行官达里奥·阿莫迪甚至承诺，必要时将单方面放慢研发速度。 OpenAI首席执行官萨姆·奥特曼在纽约向联合国安理会介绍情况时警告，人工智能目前的发展“需要极度关注”。他说：“随着人工智能

山姆·奥特曼揭示最让他恐惧的两种AI威胁

OpenAI 首席执行官 Sam Al特曼阐述了人工智能进步可能对人类构成巨大威胁的两大途径。 大型语言模型GPT的开发者奥特曼，以及Anthropic的达里奥·阿莫代伊、埃隆·马斯克等最有权势的人工智能公司首席执行官，都在呼吁放缓这项技术的加速发展，因为他们担心这可能会对人类造成影响。 奥特曼在X平台上发帖称：“人工智能的发展有两种可能走向糟糕的局面，我们必须避免。”一种是人类失去对人工智能的控

顶尖人工智能开发者警告该技术发展过快

一些全球领先的人工智能创造者正联合发出警告，称这项技术发展过快会带来危险，并公开呼吁放缓脚步。 他们说，在不久的将来，它实际上可能会比正在构建它的研究人员更聪明，并对人类构成生存威胁。 NBC的Christine Romans报道，而《大西洋月刊》特约撰稿人、《AI：真实的人如何利用人工智能解决重要问题》作者Josh Tyrangiel做客TODAY节目，分享他的见解。

改变人工智能进程的十天

旧金山，9月19日——多年来，人工智能领域的竞争一直遵循着硅谷一贯的“快速创新、打破传统”的发展模式：不断开发出更强大的人工智能系统。 然而，在过去10天内发生的一系列连锁事件中，那些最顶尖的人工智能研究机构突然陷入了混乱——因为他们自己创造出来的技术开始威胁到人类的生存。 一位人工智能研究员辞职，并警告称，人工智能的发展速度可能在未来十年内对人类构成生存威胁；另一位研究员则表示，人类灭绝的概率已

OpenAI首席执行官奥特曼谈人工智能：我们或许会失去控制权

OpenAI 首席执行官山姆・奥特曼，似乎正被自己参与打造的、如同噩梦一般的人工智能产物深深困扰，甚至难以安睡。美国东部时间凌晨 0 点 57 分左右，奥特曼在 X “人工智能的发展存在两种必须规避的灾难性走向。第一，我们可能会对人工智能失去对未来的掌控。这是无法接受的。我们坚定站在人类一方，人工智能必须始终服务于人。想要做到这一点，我们必须保证对齐技术与安全手段的发展速度，跑在模型能力迭代的前面

华为董事长：中国AI实验室需要“加快研发速度”，才能“看清人工智能的危险”

中国AI实验室需要“加快研发速度”，才能“看清人工智能的危险” 华为董事长已敦促中国人工智能公司加快发展以追赶美国前沿实验室，这与硅谷因担忧技术生存风险而呼吁放缓发展的声音形成了对比。 华为轮值董事长徐直军在周四的新闻发布会上表示，中国研究人员需要“增加发展速度，这样他们才能像美国同行一样看到人工智能发展的危险”，并补充说一旦这些风险出现，行业将需要“在推动发展和风险之间取得平衡”。—— 英国金融

#观察 有什么可以“叫唤”的？

AI在所有科学和数学领域都将远远超越人类科学家，这是必然。适应一下。

香山论坛聚焦AI军事风险｜ AI大幅压缩决策时间 中美管控分歧难解

朝鲜国防部副部长金江日周四在北京香山论坛上发言。（路透社照片） （北京17日路透电）正准备在本月举行元首峰会的全球两大人工智能（AI）强国美国和中国，目前就如何控制AI在军事系统（包括核武器）中的应用上仍存在分歧。而本周在出席香山论坛的众多代表纷纷表达了担心不受约束的AI发展，以及AI竞争可能会进一步推高全球安全环境风险。 出席北京香山论坛的与会专家指出，AI极度压缩了政府和军方的决策时间，而虚假

Anthropic 和 OpenAI 的负责人将向联合国发表讲话

Anthropic 和 OpenAI 的负责人将于今日向联合国安理会进行简报。 尽管他们呼吁放缓人工智能的发展，但这与更关心赢得人工智能竞赛的超级大国利益相冲突。 分析人士认为，华盛顿和北京不太可能在会谈中就限制该技术的广泛协议达成一致，但其他国家仍在努力推进：英国计划将其 G20 主席国任期的重点放在人工智能安全上。这一议题使世界产生了分歧。 一位谷歌高管告诉 Semafor，全球南方国家对人工

美中人工智能安全会谈前夕分歧显现

美国在与中国高级经济官员的会谈中提议建立超级大国人工智能安全机制，但分析人士对华盛顿和北京能否就此问题或双方无数其他争端达成妥协表示怀疑。 近期，美中两国领导人大多保持了积极的言论，两国也已从一年前那种全面贸易战的状态中有所回撤。然而，双方在技术、贸易和台湾等问题上的分歧依然广泛且深重。 因此，一位学者指出，中国分析人士对本周领导人峰会的“基准预期”仅仅是双方休战的“延长”，而高盛则表示，其调查的