周三简报：为什么科技公司其实非常希望我们相信“人工智能会毁灭我们所有人”这一说法？

2026年3月，在加利福尼亚州旧金山，一名抗议者在OpenAI总部外举着标语牌，呼吁暂停人工智能的发展。 曼努埃尔·奥尔贝戈佐/ 在今天的报道中，关于人工智能，很难分辨事实与虚构。究竟正在发生什么——政府又该如何应对？ 早上好。通常来说，对任何声称正在开发能够毁灭人类的工具的巨型公司保持怀疑态度是明智的。但近日，人工智能行业发出的一系列警告表明，即使是科技圈内部人士也开始担心他们所释放的力量。 周

“控制AI发展的节奏”并不能消除AI带来灾难性后果的风险。以下是一些可能有效的应对措施：

我们已经到达了人工智能的风险临界点。数百万人终于明白，专家们所知道的人工智能公司一直在用我们所有人的生命赌博，而且胜算不大。 作为回应，Anthropic首席执行官Dario Amodei提出了一项由Sam Altman和Elon Musk支持的“开拓前沿”的提议。我们能松一口气吗？我们即将从灭绝的边缘退回来吗？ 阿莫迪预计经济放缓一到两年，从而在技术安全措施方面取得“重大进展”。但这不是人类现在

AI末日论的背后，巨头们在争什么？

刘远举：现在离AI威胁人类还早，起码待到AI有基本的现实自我维持能力再来谈这个问题，也不会晚。 当地时间9月14日，在美国洛杉矶举行的All-in Summit 峰会上，黄仁勋否定了“人工智能可能终结人类”这一预测，并称其“缺乏科学依据”。他表示，如果AI公司感觉自身研发已失去控制，就应暂停或放缓发展步伐。 正当他在台上时，特朗普来电，黄仁勋打开免提，特朗普说，“机器人不会接管世界。人工智能也不会

半数美国人在经济上缺乏安全感。我们该怎么办？

这并非关乎边缘群体。我们谈论的是美国。

梅德韦杰夫：西方正将世界推向核末日边缘

“统一俄罗斯”党主席、俄联邦安全会议“西方集体一直支持基辅政权，目的明确地试图把世界推向核末日边缘。“所有人都应知道，核武器可能在特定情况下使用。这并非耸人听闻，而是现实。俄罗斯的核学说未必可以称为暗语，它规定俄罗斯在面临安全威胁时有权使用这种武器。”他指出，任何非核国家在核大国参与或支持下侵略俄罗斯或联盟国家成员国白俄罗斯，都将被视为共同攻击。 他补充说，乌军入侵库尔斯克州、打击扎波罗热核电站、

沉迷“把控节奏” AI行业忽视真正的政治难题

达里奥・阿莫代伊向来算不上镜头前长袖善舞的媒体红人。他接受采访时说出的金句并不多，面部表情时常紧绷生硬。但他选择把最重要的重磅观点，发布在个人网站darioamodei.com上，事实证明这是一套极为高明的传播策略。学者马歇尔・麦克卢汉那句流传半个世纪的名言“媒介即讯息”，至今依然振聋发聩。这种发文方式自带权威感与严谨姿态，让阿莫代伊置身舆论混战之外。 阿莫代伊发布博文《我们必须把控前沿发展节奏》

亚当·图兹：“疯狗”与热浪经济学

“疯狗”调用英国文化中的固定说法 “Mad dogs and Englishmen go out in the midday sun”，即“只有疯狗和英国人才会在正午烈日下出门”。这句话因诺埃尔·科沃德（ Noël Coward ）的歌曲《疯狗和英国人》（ Mad Dogs and Englishmen ）而流行，其讽刺对象是英国人在热带殖民地仍不懂避暑、拒绝午休，硬要在烈日下活动的荒唐姿态。　　

我们向全球领导人传达的信息：到本十年末，我们需要处处用上太阳能。

我们这些签署人写下这封信，是出于深切的恐惧与深切的希望。在过去几个月里，我们目睹了战争与气候变暖共同点燃世界的景象。从伊朗冲突夺去数千人生命并扰乱数十亿人生活，到一连串日益恶化的气候灾害——欧洲的野火、尼泊尔的冰川崩塌——当世界最需要团结时，却似乎正陷入崩溃。 我们知道这些危机相互关联。各国争夺的石油同样是导致气候变暖的碳排放。德里糟糕的空气质量、越南高昂的燃油价格、美国的电费、喜马拉雅地区可怕的

马克·哈尔佩林：社交媒体伤害了一代人。我们准备让AI也这样做吗？

想象一下，两百个外星人降落在地球上，还有成千上万的外星人即将到来，势不可挡。 再想象一下，我们知道其中一些外星人是来帮助我们的，让我们的星球变得更好、更智能、更高效。 但我们也知道，其中一些外星人是来伤害我们的，可能会对我们造成不可挽回的伤害。我们不知道哪些外星人会对我们友善，哪些会心怀恶意？这就是AI的现状。但情况更为复杂。因为好的外星人和坏的外星人不一定是不同的外星人。 同样的技术，既能帮助发

分析：中国为什么不怕人工智能末日论？

本文刊发在大西洋月刊，作者Liza Lin是一位专注于科技和美中关系的自由撰稿人。 在中国，人工智能已经无处不在。 在杭州，身穿荧光黄色背心的人形警务机器人在热门旅游景点巡逻，遇到乱穿马路的行人时，还会语气温和地提醒他们。中国人工智能聊天机器人豆包已经成为极受欢迎的医疗咨询来源，以至于一些人开始把它叫作“豆包医生”。 这个威权国家正在调动国家资源，力争打造世界领先的人工智能产业，并推动人工智能在制

世界末日到了——可我并不觉得好

当亿万富翁，甚至是万亿富翁被赋予完全的自由裁量权时，世界将会迎来“末日”般的灾难。这是否就是美国资本主义与民主制度走向衰落的最终结果呢？ 想象一下这样一种可能导致人类灭绝的灾难：可能是由失控的人工智能引发的革命、新的世界大战，或是失控的气候变化。如果你一直关注硅谷和华尔街的那些超级富豪，那么你很可能已经知道地球上以及地球以外的哪些地方是最安全的。 这些富豪们正在一些特定的地点建造秘密的、具有抗灾能

人工智能真正的末日为何已经到来——凯和卡特的国内访谈

一位前Anthropic研究员关于人工智能的末日宣言引发了全球恐慌，担心这项技术可能会终结我们所有人。 在美国华盛顿今天举行的一次警告人工智能危险的活动上，美国参议员伯尼·桑德斯表示，国会一直“睡大觉”。奇怪的是，史蒂夫·班农也出现在了同一个活动上。 但这种反应是否会分散人们对人工智能已造成的更紧迫问题的注意力？ 凯·赖特和卡特·谢尔曼与《卫报》科技记者乔安娜·布伊扬一起，将这一时刻置于背景中，她

人工智能：因 AI 而世界末日？这究竟该如何发生？

世界末日，概率百分之十？每天都会出现新的设想：AI 可能在何时、以何种方式杀死全人类。有些荒诞不经，有些却近得令人恐惧。

《卫报》观点：极端高温的规模应为我们所有人敲响警钟 | 社论

今年夏天欧洲数千人死亡，是时候将热浪视为它们本应被视作的重大自然灾害了。数字正在陆续公布：英国近2900人死亡，整个欧洲至少35000人死亡。据信，这就是在今年初夏热浪中丧生的人数——8月热浪的死亡人数尚未统计。从某种意义上说，这些人是死于一系列自然灾害，类似于上个月尼泊尔洪水或2024年西班牙巴伦西亚洪水中丧生的数百人。然而，我们并没有以同样的方式对待这些事件。日益致命的热浪是欧洲感受到的气候危

人工智能安全辩论

为什么历史的终结如此痛苦

弗朗西斯·福山长期以来一直被认为是一个天真的盲目乐观主义者，而他现在想要澄清这一点。 他出版了一本新回忆录《末人之境》，试图摆脱这种显然让他无法忍受的刻板印象。他从来都不是一个天真的波丽安娜式人物。 通过“历史的终结”，他指的是我们已经到达了所有可能世界中的最好状态，他至今仍然这么认为。 然而，作为一个居住在这一终结状态中的“末人”，一直被呈现为一种不稳定的状况。 正如他所指出的，自由秩序所带来的

OpenAI首席执行官奥特曼谈人工智能：我们或许会失去控制权

OpenAI 首席执行官山姆・奥特曼，似乎正被自己参与打造的、如同噩梦一般的人工智能产物深深困扰，甚至难以安睡。美国东部时间凌晨 0 点 57 分左右，奥特曼在 X “人工智能的发展存在两种必须规避的灾难性走向。第一，我们可能会对人工智能失去对未来的掌控。这是无法接受的。我们坚定站在人类一方，人工智能必须始终服务于人。想要做到这一点，我们必须保证对齐技术与安全手段的发展速度，跑在模型能力迭代的前面

奥巴马和民主党人正发出可疑的“人工智能末日”警报——恰逢中期选举到来之际

“人工智能末日”惊悚运动看起来十分可疑，就像气候骗局一样。多么巧合的是，它恰好在本周中期选举季拉开帷幕时达到高潮。 这场运动的启动始于上周，27岁的低级别人工智能研究人员雅各布·科克森在《华尔街日报》的独家专访中高调宣布辞去人工智能公司Anthropic的职务，随后在X平台上发布了一则疯传的线程，警告人工智能将“杀死我们所有人”。他声称：“构建人工智能的人真诚地相信它可能在本十年结束前杀死我们所有

分析：日本面临政策清算日，贝森特叫停大规模刺激

特朗普应在中期选举中明确区分自己的政绩与古怪民主党人的蓝色浪潮

劳动节周末过后我们复工时，希望美国开始关注十一月中期选举所呈现的鲜明选择。

以下是人工智能引发的“末日”可能呈现的样子：

关于人工智能是否能杀死我们的争论最近到处都是，但真正的人工智能灾难会是什么样子呢？本周，Brian Barrett，Zoë Schiffer和Leah Feiger打破了专家们最担心的三个现实世界场景，包括被黑客入侵的供水系统，生物武器和自主机器人。我们还讨论了Salesforce年度会议的亮点，OpenAI的Sam Altman和Anthropic的Dario Amodei为他们在AI安全方面的

特朗普对人工智能的痴迷是否正将世界引向灾难？——播客

科技巨头们呼吁减缓人工智能的发展，并要求美国政府制定正式的监管措施。 但为什么特朗普总统对这些末日预言毫不动摇，反而将其视为‘骗局’？他为何如此支持人工智能产业？ 乔纳森·弗里德兰与《卫报》美国科技版编辑布莱克·蒙哥马利进行了对话。 欢迎将您的问题和反馈发送至politicsweeklyamerica@theguardian.com。收听最新一季的《Black Box》节目。

AI 不会终结人类……对吧？——播客

AI 不会终结人类……对吧？——Full Story 播客 科技界的一系列人物一直在就人工智能带来的生存威胁发出警告——甚至为此辞职。我们究竟该有多担心？《今日焦点》主持人安妮·凯利与科技编辑罗伯特·布斯展开对话

对技术导致灭绝的担忧并非史无前例

一位知名研究人员警告称，由于一项新技术的出现，世界正处于一场巨大变革的边缘，这项技术可能会极大地造福社会，也可能导致大规模的毁灭。没有人完全理解它如何运作，也不知道政府是否应该介入。 那是1941年的内布拉斯加州奥马哈，物理学家阿瑟·H·康普顿（Arthur H. Compton）正在发表一场关于亚原子能量可能性的演讲。根据《林肯晚报》（The Lincoln Evening Journal）对该