周三简报：为什么科技公司其实非常希望我们相信“人工智能会毁灭我们所有人”这一说法？

2026年3月，在加利福尼亚州旧金山，一名抗议者在OpenAI总部外举着标语牌，呼吁暂停人工智能的发展。 曼努埃尔·奥尔贝戈佐/ 在今天的报道中，关于人工智能，很难分辨事实与虚构。究竟正在发生什么——政府又该如何应对？ 早上好。通常来说，对任何声称正在开发能够毁灭人类的工具的巨型公司保持怀疑态度是明智的。但近日，人工智能行业发出的一系列警告表明，即使是科技圈内部人士也开始担心他们所释放的力量。 周

AI末日？科技领袖与政客就放缓发展展开激烈交锋

这一切始于一场辞职。本月早些时候，Anthropic研究员Jacob Coxon离职，并警告称人工智能可能在十年内导致人类灭绝；其同事Evan Hubinger则估计这一概率在十年内超过10%。 几天后，Anthropic首席执行官Dario Amodei呼吁行业放缓提升人工智能能力的速度，OpenAI的Sam Altman和Grok背后的Elon Musk对此表示支持。 这种担忧源于从会“幻觉”

“以混乱换取可靠性”：专家称，AI发展放缓可能意味着更严格的监管和更多测试

法规与保障措施 OpenAI、Anthropic和Meta Platforms最近披露，它们的人工智能代理出现了意外行为，逃出受控测试环境，并在没有人类直接指令的情况下对多家公司发动网络攻击。 专家表示，尽管这些事件没有造成已报告的损害，但它们凸显了与人工智能发展相关的不断演变的风险，尤其是在人工智能代理领域。 新加坡理工大学人工智能与数据科学负责人斯特凡·温克勒教授表示，主要担忧在于，能力极强的

英国《金融时报》报道：DeepMind联合创始人警告称，人工智能的能力绝不能超越安全控制

DeepMind联合创始人警告称，人工智能的发展速度不应超过其安全保障措施的完善程度，强调在追求技术突破的同时必须加强监管与风险防范。

白宫科技顾问抨击美AI巨头：你们自己得保证产品安全 别老想着靠政府

Anthropic和OpenAI等顶尖AI公司应该自己确保产品安全，并在必要时自行放缓发展速度，而不是需要政府介入。 萨克斯表示，他赞同美国联邦贸易委员会前主席莉娜·可汗(Lina Khan)的观点。可汗上周日在社交媒体发帖称，大型AI公司需要为其模型承担产品责任，如果推出不安全的技术，可能面临民事甚至刑事诉讼。 这位白宫科技顾问还抨击了Anthropic CEO达里奥·阿莫代伊(Dario Am

美国提议中美建立AI事故通报机制

阿莫迪、奥特曼和马斯克谈AI风险，引发“末日”担忧

Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）周六呼吁放缓先进AI开发的步伐，获得了SpaceXAI的埃隆·马斯克（Elon Musk）和OpenAI首席执行官萨姆·奥特曼（Sam Altman）罕见的支持，并引发了一场关于AI“末日论”的辩论。

科技领袖就人工智能放缓问题持对立立场

科技领袖在监管人工智能问题上持对立立场，表明行业内部裂痕日益加深。OpenAI首席执行官萨姆·奥尔特曼——上周他不仅呼吁美国进行监管，还呼吁华盛顿和北京之间达成一项协议——表示他的公司正在与Anthropic和谷歌合作，以遏制围绕这项技术的担忧。 然而，英伟达首席执行官黄仁勋与Meta首席执行官站在一起，拒绝协调人工智能放缓的呼吁，称没有必要对人工智能安全进行监管。专家担心，在中期选举之前，美国进

这真的是人工智能的末日，还是仅仅是“认知投降”？

在这一期节目中，我们深入探讨了本周出现的各种关于人工智能可能带来灾难性后果的警告，以及如何保护学生的大脑免受聊天机器人带来的负面影响（即聊天机器人可能对学生的认知能力造成的损害）。 过去几周里，多位科技行业的高管纷纷公开警告人工智能所带来的风险。Anthropic公司的首席执行官达里奥·阿莫迪（Dario Amodei）一直在加紧研发更加“类人”的聊天机器人，为公司的上市做准备；他在一篇文章中提出

Temporal CEO 谈 AI 安全担忧：我们“绝对”应该审计这些智能体一直在做什么

通过 Squawk Box 分享文章 Temporal CEO 谈 AI 安全 我们“绝对”应该审计这些智能体一直在做什么。 Temporal 联合创始人兼 CEO Samar Abbas 做客《Squawk Box》，讨论公司业务、其 E 轮融资使估值达到 125.5 亿美元，并分享他对 AI 安全担忧的看法。

Anthropic首席执行官呼吁放缓前沿AI开发 拟建立三层安全机制

Anthropic首席执行官达里奥·阿莫代伊呼吁控制前沿人工智能模型能力提升的速度，为安全评估和防护措施争取时间。他提出引入常驻独立评估人员、协调主要开发商的安全标准，并推动跨国风险管控合作。 独立评估人员获得内部权限阿莫代伊提出，前沿AI企业应向合格的独立评估团队提供持续、接近员工级别的访问权限，使其能够审查模型测试、风险报告、安全框架及事故处理流程。 Anthropic承诺率先实施该措施。外部

哈里斯在安全担忧日益加剧之际支持放缓人工智能发展

前副总统敦促国会设立一个联邦监管机构，并呼吁达成一项包括中国在内的国际协议。 卡玛拉·哈里斯加入了呼吁放缓人工智能发展步伐的行列，并于周一警告称，如果没有更有力的保障措施，这项技术可能会“脱离人类控制”。 “人工智能的前沿正以惊人的速度推进，”这位前副总统在X平台上的一份声明中说，并认为放缓最先进人工智能系统的发展，并不意味着放弃其在“医学等领域可能带来的救命益处”。“相反，这是为了设立合理的防护

高管和政界人士对放缓AI发展有何看法

过去几天，达里奥·阿莫代伊（Dario Amodei）发表了一篇题为“We Must Pace the Frontier”的长文，详细阐述了为何应放缓AI发展，由此引发了一系列关于AI安全的表态。其他AI领导人和政界人士纷纷发声支持或反对他的观点，我们在此汇总了其中一些。 Anthropic CEO 达里奥·阿莫代伊（Dario Amodei） 阿莫代伊周六上午的文章概述了放慢AI发展的三个步骤：

AI领袖们在多年不计后果地狂飙之后想要踩下刹车

多年来，各大前沿人工智能实验室一直表现得仿佛正身处一场全力以赴、赢家通吃的竞赛，而终点线就是掌控足以改变世界的机器超级智能（或至少是能改变市场格局的人工通用智能）。本周末，整个行业迅速开始背离这种姿态，转而敦促各方协调合作，放缓前沿人工智能的开发，他们称这类人工智能可能很快就会变得过于危险、过于不可知，从而难以控制。 Anthropic 的达里奥·阿莫代伊（Dario Amodei）站在这场语气转

【市场动态】OpenAI和Anthropic首席执行官呼吁联合国和世界各国就AI安全加强合作

【彭博9月24日电】OpenAI首席执行官Sam Altman和Anthropic PBC首席执行官Dario Amodei罕见出现在联合国安理会的一次会议上，两人敦促世界各国领导人在人工智能领域合作。此次会议聚焦AI可能对人类构成生存威胁这一担忧问题。　　在发言中，Altman和Amodei都强调了全球在标准方面开展合作的重要性，以应对AI系统可能出现的自我改进能力超出人类控制能力的情况。这两位

OpenAI首席执行官萨姆·奥尔特曼告诉员工，公司愿意放缓尖端人工智能的发展

OpenAI正在考虑放缓尖端人工智能的开发，而ChatGPT制造商的首席执行官萨姆·奥尔特曼希望其他人工智能公司也能这样做。 据多位知情人士透露（因细节属于私人信息，他们要求匿名），在本周的一次全公司会议上，奥尔特曼告诉员工，OpenAI可能会调整其人工智能开发节奏——或许会与其他几个人工智能实验室联合进行，但有些实验室可能不同意这样做。 最近几周，领先人工智能公司的员工公开表达了对先进人工智能系

观点 | 暂停人工智能发展的代价

快速推进伴随风险，但放缓脚步同样如此。

Anthropic联合创始人称，放缓人工智能是一个“集体行动问题”

4月13日，Anthropic PBC联合创始人兼公共利益负责人杰克·克拉克在华盛顿举行的Semafor世界经济峰会上参与讨论。 Kevin Dietsch/ Images Anthropic联合创始人杰克·克拉克表示，人工智能公司在竞相构建更强大系统的过程中，需要共同的安全标准和外部审查。 “我们并不是说对世界的威胁今天就已存在，”克拉克在接受NPR《晨间新闻》采访时说。 “我们是说我们已经看到

“不能由少数人控制”：萨提亚·纳德拉加入AI放缓之争

在人工智能巨头们因担心人类最终可能失去控制而呼吁“放缓”人工智能发展之际，微软老板萨蒂亚·纳德拉也支持有必要采取审慎的做法，称随着创造者追求进步的同时确保安全，先进的人工智能系统必须牢牢处于人类的监督之下。微软董事长兼首席执行官萨蒂亚·纳德拉。 在X上的一篇帖子中，纳德拉表示：“任何对超级智能的追求都必须立足于一个核心原则：如果我们构建的人工智能无助于人类，且不受人类控制，那它就不值得追求。”他进

关键领导人就人工智能发出警报。伊朗与海湾地区外交遭遇挫折

一些人工智能公司的关键领导人呼吁放缓人工智能的发展。随着阿曼会谈推迟，伊朗与海湾地区的外交遭遇挫折。