观点 | 暂停人工智能发展的代价

快速推进伴随风险，但放缓脚步同样如此。

专访——“我们必须停下”：AI专家称放缓还不够，开发必须停止

他警告说：“如果我们不在未来几年内阻止人工智能，我认为我们更有可能失去控制，人类将会灭绝。” 他表示：“立即、无限期地暂停前沿人工智能开发的国际禁令……是唯一能……真正让我们安全的事情。” 世界上一些最著名的人工智能高管现在呼吁放缓构建日益强大系统的竞赛。但人工智能安全研究员大卫·克鲁格认为，这还远远不够。 “我们必须阻止AI。我们必须停止构建更强大的AI。我们需要立即对前沿AI开发实施无

FT社评：是时候给尖端人工智能开发按下暂停键了

确实存在被中国抢先的风险。但即使抛开AI“到本世纪末可能杀死我们所有人”的警告不谈，最先进的AI模型也显然已开始脱离人类的掌控。 在这个世界上那些最强大人工智能(AI)公司的掌门人身上，可以看到一种类似“杰基尔博士与海德先生”（Jekyll-and-Hyde，《化身博士》中杰基尔博士喝了自己配制的药水，分裂出海德先生这个邪恶人格——译者注）的双重人格。一方面，这些高管如今在谈论，鉴于AI可能给人类

🔊 要求限制先进人工智能模型的呼声日益高涨。但美国和中国会

AI风险当前，勿做事后诸葛亮

沃尔夫：放慢人工智能创新速度，无论在实践还是政治上都困难重重，但这是正确的选择。 人工智能(AI)行业的一些领军人物正在呼吁放慢创新速度。Anthropic一名研究人员辞职时表示，“那些正在开发AI的人是真心相信，到本十年结束时，它有能力杀死我们所有人”。Anthropic的达里奥•阿莫代伊(Dario Amodei)本人也撰文称，“我们必须放慢提升AI模型能力的速度”。OpenAI的萨姆•奥尔特

放缓AI发展，美国政商两界谁赞成、谁反对？

澎湃新闻记者 彭玉洁

人工智能发展放缓可能如何冲击经济，以及最高法院在邮寄投票问题上阻止特朗普：早间简报

人工智能刹车对美国经济意味着什么。最高法院在中期选举前数周阻止了特朗普限制邮寄投票的计划。苹果电视的《寡妇湾》在艾美奖上大获全胜。以下是今日要闻。人工智能刹车对美国经济意味着什么？要求给人工智能发展踩刹车的呼声，正引发疑问：科技放缓是否会抑制一直推动美国经济增长的势头。这是《晨间简报》，一份工作日时事通讯，助你开启新的一天。在此注册。上周，随着多家领先公司的多名工程师辞职，人工智能安全话题进入更广

独家：沃伦支持暂停人工智能

参议员伊丽莎白沃伦（D-Mass。她的办公室独家告诉Axios，她是最新一位支持暂停先进人工智能的著名民主党人。 为什么放慢人工智能发展的想法--曾经被认为是在击败中国的激烈竞赛中不可能实现的--正在获得动力。 周三驾驶沃伦将呼吁暂停先进人工智能开发，但不会呼吁超级智能，与佛蒙特州参议员伯尼·桑德斯（Bernie Sanders）决裂。 沃伦将在桑德斯周三主持的圆桌会议之前表示：“我们应该立即暂停

美国AI巨头提议开发减速，欧洲同行和政界并不认同

Anthropic联手OpenAI呼吁放慢AI发展？剖析AI失控风险与算力门槛

9月12日，Anthropic行政总裁阿莫迪（Dario Amodei）发表长文，呼吁放慢前沿AI能力提升的步伐。OpenAI行政总裁奥特曼（Sam Altman）随后表示支持，xAI的老板马斯克也转发认同。据美媒披露，美国前总统奥巴马（Barack Obama）近日也表示，如果管理不当，人工智能技术可能「很危险」。Anthropic首席执行官达里欧．阿莫戴（Dario Amodei）发表长文，呼

联合国秘书长呼吁全球合作为人工智能设立护栏

（联合国17日新华电）联合国秘书长古特雷斯周三（16日）呼吁全球协同行动，为人工智能（AI）设立护栏。 在今年联合国大会高级别周开始前举行的记者招待会上，古特雷斯说，人工智能具有巨大潜力，但近来越来越多的人工智能开发者警告，其开发速度超出人类对风险的认知。有的开发者呼吁暂停开发人工智能，有的呼吁设立护栏。各国不能无视这些担忧。 古特雷斯说，各国政府首先必须负起责任。由于人工智能发展及其所带来的风险

高喊“AI踩刹车”的美国大科技公司…背后却在踩油门

▲ 美国人工智能（AI）公司安特罗匹克的标志前摆放着小模型 /美国人工智能（AI）企业的掌门人提出“放慢AI开发速度”的主张，但提出这一主张的企业本身却在加快开发新一代AI模型和建设数据中心的步伐。这与为了减少AI失控风险而一起“踩刹车”的提议背道而驰，实际上在开发现场，为了率先推出更出色AI的领先竞争丝毫未减。 中国更是加大力度，为人工智能这一能减少对人类研究者的依赖、自主学习和发展的技术投入巨

奥尔特曼：控制AI开发不等于停止 美国竞争压力再大也不能鲁莽行事

OpenAI CEO萨姆·奥尔特曼周日发文，表态支持 “控制”AI发展速度的理念，以避免前沿模型超出人类控制能力。奥尔特曼表示，将重点转向安全会付出一定代价，但为了维持人们对美国公司负责任开发日益强大AI的信心，这样做是值得的。 “无论美国面临多大的竞争压力，这都不能成为鲁莽行事的理由，也不能让AI的能力跑在对齐和监控能力的前面。”奥尔特曼在X上发帖称。他同时强调，确保安全并不意味着停止进步，“当

“需要AI管控装置”vs“主导权被中国夺走”…意见分歧蔓延至华盛顿

▲ 当地时间13日，美国总统唐纳德·特朗普在从爱尔兰香农飞往马里兰州安德鲁斯联合空军基地的 “空军一号”专机上与记者们交谈。/关于因担忧人工智能（AI）可能失控而调整开发速度的争论，已从美国的硅谷蔓延至政界，正在演变成管控论。“如果美国在AI开发上踩刹车，可能会被中国夺走主导权。”因此对调整速度持否定态度。“应该为了防止AI脱离人类控制的风险而制定安全措施。”随着11月中期选举的临近，AI已成为政

评论：在地缘政治竞赛中，AI 已大到无法放慢

如果前沿 AI 真的强大到足以终结人类，那么它可能已经强大到无法放慢。 如今，这项技术已被锁定在事关国家安全的战略军备竞赛中，对其风险的警告可能只会加速争夺霸权的冲刺——并随之带来更强大的政府控制。

AI科企巨头齐呼吁发展减速：特洛依木马或美国对华「冷战剧本」？

AI人工智能巨头Anthropic公司行政总裁阿莫迪（Dario Amodei） 9月12日发表长文《我们必须放缓前沿人工智能的发展步伐》（We Must Pace the Frontier），罕见公开呼吁全球AI前沿大模型放缓研发步伐，连很少与Anthropic达成共识的OpenAI，以及亿万富豪马斯克（Elon Musk）随后都出来响应呼吁。为什么凭借AI发展谋取暴利的大企业会忽然喊「需要减速

改变人工智能进程的十天

旧金山，9月19日——多年来，人工智能领域的竞争一直遵循着硅谷一贯的“快速创新、打破传统”的发展模式：不断开发出更强大的人工智能系统。 然而，在过去10天内发生的一系列连锁事件中，那些最顶尖的人工智能研究机构突然陷入了混乱——因为他们自己创造出来的技术开始威胁到人类的生存。 一位人工智能研究员辞职，并警告称，人工智能的发展速度可能在未来十年内对人类构成生存威胁；另一位研究员则表示，人类灭绝的概率已

Anthropic呼吁放缓AI发展 《环球时报》称是美“科技右翼”的冷战剧本

美国人工智能公司Anthropic首席执行官呼吁放缓人工智能发展，以规避技术失控风险。中国《环球时报》评论，文章暗藏大量针对中国的遏制条款，实质上是一出AI领域的“冷战剧本”。 Anthropic首席执行官阿莫迪星期六（9月12日）在个人博客撰文，呼吁人们必须掌控前沿技术的发展节奏。这一倡议迅速得到特斯拉首席执行官马斯克，OpenAI首席执行官奥尔特曼等人的联合支持。 《环球时报》星期天（9月13

如何治理人工智能的生存风险

当前，前沿人工智能技术治理方面的瘫痪状态正在当下造成切实损害，并增加未来发生灾难的可能性。 这种瘫痪被一套危险的借口所开脱：技术发展太快，监管跟不上；企业可以自我监管；在美国与中国的竞争中，公共安全可以往后放。各国政府一直难以给予人工智能风险应有的关注。在大国竞争和行业内部军备竞赛的双重态势下，许多国家不敢单独行动。在这种背景下，每一次呼吁克制都会遇到同样的反问：如果竞争对手不肯放慢，我们为什么要

人工智能热潮能够抵御发展放缓

特朗普总统 i正大力反驳放缓人工智能发展的呼声，将其描绘为强大的经济增长引擎。 但短期内维持这种经济繁荣可能不需要功能越来越强大的 AI 模型。 为什么呢？未来几个月经济回报可能更多地取决于持续的基础设施投资和现有 AI 工具的广泛采用，而不是下一代模型。 人工智能现在支撑着大量的企业投资和股市收益，而对生产力增长加速的希望也严重依赖于这项技术。 特朗普正在抨击要求放缓人工智能发展的呼吁，此前人工

美中AI竞争或进入关键时间节点

邓聿文：哪一种体系更有能力承受AI从实验室走向整个经济和社会之后带来的巨大资源需求、社会阻力和风险压力，也可能成为决定因素。 9月14日，全球AI相关股票出现一轮大跌。美国费城半导体指数一度下挫5.2%，欧洲和亚洲的AI概念股也普遍遭到抛售。芯片和半导体股大跌以前也出现过多次，但这次的背景很不一样，直接诱因是美国几位最重要的AI企业家公开要求给人工智能的发展踩刹车。 Anthropic首席执行官阿

David Sacks炮轰：真担心AI失控就自己停下来 别借“放缓”之名寻求监管保护

围绕前沿人工智能是否应该主动放慢发展速度的争论近日迅速升温。Anthropic首席执行官Dario Amodei公开呼吁整个AI行业放缓先进模型能力提升的速度，OpenAI首席执行官Sam Altman和xAI首席执行官埃隆·马斯克随后表示支持。但美国科技投资人、总统科技顾问委员会主席David Sacks却对这一倡议提出尖锐批评，认为如果OpenAI和Anthropic真的认为当前AI发展速度已

AI领袖呼吁放缓发展步伐

在一名研究人员发出人工智能可能很快毁灭人类的不祥警告后，越来越多的人工智能领袖呼吁放缓这项技术的发展。Anthropic首席执行官达里奥·阿莫代伊呼吁放缓人工智能能力开发后不久，包括OpenAI首席执行官萨姆·奥尔特曼和xAI首席执行官埃隆·马斯克在内的多位竞争对手也纷纷效仿。此前，27岁的人工智能研究员雅各布·考克森发文称，这些公司的研究人员“相信人工智能可能杀死全人类”，却仍竞相推进超级智能的

桑德斯推动对美国关键行业实施‘死刑’，或让外国对手占得先机

佛蒙特州参议员伯尼·桑德斯和得克萨斯州众议员格雷格·卡萨尔周四提出立法，旨在对美国人工智能开发者实施‘企业死刑’并处以最高20年监禁——批评人士警告，此举将在全球人工智能军备竞赛中把关键优势拱手让给北京和莫斯科。 《禁止超级人工智能法案》将暂时中止先进人工智能的开发，并设立一个内阁级联邦机构，授权其监督对不合规技术系统的物理销毁，将先进人工智能的创造比作非法研发核武器。该法案明确针对能够达到或超越