我们对AI可能将我们消灭的消息报以麻木的冷漠。这种虚无主义的出路在哪里？ | 布里吉德·德莱尼

答案有几个，但没有一个会由科技提供。我们必须做的一件事，是找出人类繁荣发展的要素。今年，将未来想象得几乎一片黯淡，不知怎地潜入了集体意识。 上周，我和一位老朋友喝咖啡。他正跟我说他的孩子们上大学想学什么，却突然停住了，目光望向中远处，说道：“我真希望自己从没要过孩子。”布里吉德·德莱尼著有五本书，包括《探寻者与智者》

倘若AI毁灭人类，是文明的终结，还是人性的反噬

倘若AI毁灭人类，是文明的终结，还是人性的反噬 徐贲：毁灭人类的力量，不是从外部降临，而是从人类幽暗深处生长出来的。如文明失败，人性恶失控，从文明的角度看是终结，从道德的角度看是因果。 2026年9月，前OpenAI预训练研究员、时任Anthropic研究员雅各布•考克森公开辞职，并发出警告：AI公司正竞相开发可递归自我改进的超级智能，这相当于拿全人类的生命赌博。他的震撼之处不仅在于内部人身份

大卫·马库斯：大科技发明了AI末日来逃避现实生活中的问题

仿佛美国人还没有足够的担心--维持收支平衡和规划未来--世界上最大的人工智能公司的负责人现在警告说，他们的突破性技术可能会让我们没有未来。我们可能都会死。 鉴于我们刚刚度过了气候变化和COVID-19，这确实是一种耻辱。现在这个？也许我们可以关闭人工智能两周来拉平曲线。 本周，民主党人不顾一切地加入这支垂死的潮流，做他们一直在做的事情--监管工业至死并阻碍增长。 桑德斯对可能为外国广告商提供优势的

专访——“我们必须停下”：AI专家称放缓还不够，开发必须停止

他警告说：“如果我们不在未来几年内阻止人工智能，我认为我们更有可能失去控制，人类将会灭绝。” 他表示：“立即、无限期地暂停前沿人工智能开发的国际禁令……是唯一能……真正让我们安全的事情。” 世界上一些最著名的人工智能高管现在呼吁放缓构建日益强大系统的竞赛。但人工智能安全研究员大卫·克鲁格认为，这还远远不够。 “我们必须阻止AI。我们必须停止构建更强大的AI。我们需要立即对前沿AI开发实施无

别只问AI会不会毁灭人类

“十年之内，AI毁灭全人类的概率超过10%。”这个数字一出，舆论哗然。有人追问它是否科学，有人指责它制造恐慌，也有人据此主张放慢甚至停止AI研发。 其中，一些最了解AI的建造者，一边真诚地承认这项技术可能杀死所有人，一边却没有停下手里的开发。他们并非在说谎，也不是虚伪——现实中有种种力量，使他们无法停下来。 观潮无意纠缠“10%的概率究竟大还是小”。比数字更值得追问的，是人们讨论它时所站的位置。

马克·哈尔佩林：社交媒体伤害了一代人。我们准备让AI也这样做吗？

想象一下，两百个外星人降落在地球上，还有成千上万的外星人即将到来，势不可挡。 再想象一下，我们知道其中一些外星人是来帮助我们的，让我们的星球变得更好、更智能、更高效。 但我们也知道，其中一些外星人是来伤害我们的，可能会对我们造成不可挽回的伤害。我们不知道哪些外星人会对我们友善，哪些会心怀恶意？这就是AI的现状。但情况更为复杂。因为好的外星人和坏的外星人不一定是不同的外星人。 同样的技术，既能帮助发

人工智能真正的末日为何已经到来——凯和卡特的国内访谈

一位前Anthropic研究员关于人工智能的末日宣言引发了全球恐慌，担心这项技术可能会终结我们所有人。 在美国华盛顿今天举行的一次警告人工智能危险的活动上，美国参议员伯尼·桑德斯表示，国会一直“睡大觉”。奇怪的是，史蒂夫·班农也出现在了同一个活动上。 但这种反应是否会分散人们对人工智能已造成的更紧迫问题的注意力？ 凯·赖特和卡特·谢尔曼与《卫报》科技记者乔安娜·布伊扬一起，将这一时刻置于背景中，她

靠机器热源“说话”：OpenAI研究员警告“断网”也困不住未来AI

人工智能恐慌正让我们倒退回中世纪

主流媒体终于赶上了《守望台》——耶和华见证人的标志性出版物——并将聚光灯投向了世界末日。雅各布·考克森绝望地辞去了在人工智能巨头Anthropic的工作，发推文称业内人士认为，未来十年内这项技术毁灭人类的概率超过10%；在职的Anthropic高管埃文·胡宾格发推文说“雅各布说得对”；瞧，关于末日的专栏文章和社论纷纷涌现。我没有资格判断这个10%的数字是否合理。一些人工智能科学家认为这是歇斯底里的

Anthropic CEO谈放缓AI研发：这个行业撒谎太久了，AI风险是真实的，但也无需“把一切都关掉”

就在全球AI三大巨头罕见联手呼吁“放缓AI研发”的同一个周末，Anthropic CEO Dario Amodei坐到了CBS的镜头前，说出了AI可能对人类带来的风险。 Amodei表示，已有人尝试利用AI研发生物武器、增强病毒传染性，这是他每天醒来都要面对的事情。 就在两天前，我们发布了一份报告，内容是关于有人滥用AI模型来研发生物武器。我每天早上醒来都会读到这类威胁报告——有人试图用我们的模型

人工智能会消灭人类吗？它可能如何做到这一点？

最近，关于人工智能安全性的担忧日益加剧，这源于人工智能科学家对这项技术可能失控的风险发出的严厉警告。 一些最悲观的预测认为，在未来10年内，人工智能有超过10%的可能性消灭所有人类。 这些末日论的观点主要来自被称为‘AI末日论者’的观察者群体，但他们真正关心的是：这些末日论者认为人工智能究竟如何能够终结人类？ 《网络通讯员》乔·蒂迪探讨了一些被设想的情景，并评估了这些情景发生的可能性。

冷静点——人工智能短期内并不会终结人类。

末日预言正接踵而至。由人工智能引发的人类灭绝似乎迫在眉睫。据称，在十年之内，人工智能将以种种邪恶手段将人类彻底消灭。这是人工智能领域的天才们（甚至人工智能本身）所说的话——他们显然聪明得不会出错。但问题是，谁来修理空调？谁来修补屋顶的破洞、维护发电厂、修复被风吹断的电线、更换老化的服务器，等等？简而言之，没有人类的支持，人工智能既不会存在，也无法存在。人工智能需要电力，而任何发电厂若缺乏人类维护，

致命人工智能的神话是一种自私自利的监管俘获企图

KETTLE 嘿，你听说了吗？人工智能要消灭我们所有人，而且没有人试图采取任何措施来阻止它。 本周，我们来聊聊人工智能行业内部人士最新的一轮贩卖焦虑。至于你是否认为我们只能坐视“天网”终结文明，则是完全另一回事了。The's Kettle 栏目的我们可不这么认为。 加入主持人布兰登·维利亚罗洛（Brandon Vigliarolo）、系统编辑托比亚斯·曼恩（Tobias Mann）以及高级记者汤姆

如今科技界最热门的两个话题是，人工智能究竟会毁灭我们，还是会赋予我们力量。

人工智能可能会杀死我，但在此之前，它会帮我以极划算的价格买到一份新保险。这就是过去几周科技界给人的普遍感觉。关于人工智能的未来，存在着两种截然不同的观点。一方是末日论者。本月早些时候，一名Anthropic研究员的辞职及其严厉的警告——称人工智能实验室是在“拿我们的生命赌博”——引发了一轮关于人工智能是否会导致人类终结的新闻报道。Anthropic的达里奥·阿莫代伊（Dario Amodei）、O

Anthropic大瓜被扒出：“AI灭世”背后，居然是一门生意？

“AI灭世”背后，居然是一门生意？AI 有这么可怕吗？最新一期的时代杂志 直接用了 Claude 的聊天窗口，对话框里正在输入「How dangerous are you? 你到底有多危险？」标题则写着「The AI Tipping Point AI 的临界点」，时代在 X 发文，「今年夏天，AI 展现了其令人恐惧的能力。如今，一些研究人员、CEO 们，都正以前所未有的力度发出警报。」的确如此，过

末日、加速与观望：AI辩论的三大阵营

围绕AI的激烈争论，如今已逐渐演变成针锋相对的两大阵营，以及一个谨慎观望的中间派。以下是对这场技术之争战线的梳理。这项技术如今已成为经济的支柱，并可能决定地球的未来。 警告AI可能带来灾难性影响的“末日论者”，大多来自AI企业内部、学术界，或同时来自这两个领域。 在业界人士中，最具代表性的是阿莫戴。他是Anthropic的联合创始人，如今该公司已成为AI领域的重要巨头，并正朝着历史性的首次公开募股

AI大家谈： “我们为自己创造了一个魔鬼”？

人工智能飞速发展会给人类前途带来什么样的后果？美国AI领域的某些精英预言，人工智能再这样发展下去，会把人类毁灭，美国AI领军企业的老板们倡议放缓开发？为此采访了多个国家的普通人，请他们谈谈看法和感受。 受访者大致有两种倾向，一些人对AI目前的发展比较悲观，但也有人觉得AI很实用。 “我在工作中尝试使用它，但在私人生活中，我仍然对它感到害怕”。他的同胞，18岁的塞尔马泰则说，人工智能对像他这样的学生

杀人开关在哪里？人工智能末日警告引发监管呼吁

谈论末日滚动。在过去的一周里，我们的时间线充斥着关于我们即将灭亡的黑暗预测，其中包括一位硅谷工程师的预测，他给出了人工智能灭绝人类的可能性。超过百分之十。 引发恐慌浪潮的是，机器学习程序员的网站 Hugging Face 最近被人工智能机器入侵，它们联合起来向人类统治者隐瞒其邪恶行为。机器真的能自己摧毁地球吗？在技术时代，解决问题是否总是凌驾于安全之上？

以下是人工智能引发的“末日”可能呈现的样子：

关于人工智能是否能杀死我们的争论最近到处都是，但真正的人工智能灾难会是什么样子呢？本周，Brian Barrett，Zoë Schiffer和Leah Feiger打破了专家们最担心的三个现实世界场景，包括被黑客入侵的供水系统，生物武器和自主机器人。我们还讨论了Salesforce年度会议的亮点，OpenAI的Sam Altman和Anthropic的Dario Amodei为他们在AI安全方面的

人工智能末日论：人类为何会如此担忧？

它可能发动生物武器攻击，或掀起一场全球无人机战争。它可能引爆核弹。或者，它也可能通过囤积全球所有经济资源、让我们无法获得食物、住房或药品，以一种更加渐进的方式摧毁人类社会。 这些正是如今围绕人工智能产生的一些黑暗想象。这项技术已被证明是人类成就的一项巨大进步，但一些人担心，它同样有可能让人类彻底走向灭亡。 本周，当Anthropic的一名研究人员离开这个行业，表示他担心自己所在的实验室及其他类似机

“控制AI发展的节奏”并不能消除AI带来灾难性后果的风险。以下是一些可能有效的应对措施：

我们已经到达了人工智能的风险临界点。数百万人终于明白，专家们所知道的人工智能公司一直在用我们所有人的生命赌博，而且胜算不大。 作为回应，Anthropic首席执行官Dario Amodei提出了一项由Sam Altman和Elon Musk支持的“开拓前沿”的提议。我们能松一口气吗？我们即将从灭绝的边缘退回来吗？ 阿莫迪预计经济放缓一到两年，从而在技术安全措施方面取得“重大进展”。但这不是人类现在

沉迷“把控节奏” AI行业忽视真正的政治难题

达里奥・阿莫代伊向来算不上镜头前长袖善舞的媒体红人。他接受采访时说出的金句并不多，面部表情时常紧绷生硬。但他选择把最重要的重磅观点，发布在个人网站darioamodei.com上，事实证明这是一套极为高明的传播策略。学者马歇尔・麦克卢汉那句流传半个世纪的名言“媒介即讯息”，至今依然振聋发聩。这种发文方式自带权威感与严谨姿态，让阿莫代伊置身舆论混战之外。 阿莫代伊发布博文《我们必须把控前沿发展节奏》

人工智能并不会毁灭人类 但专家表示真正的威胁已然出现

周三，OpenAI 公开了六组新案例，展示其 AI 模型在测试评估过程中出现的 “意外或令人担忧的模型行为”。该公司同步发布一套全新框架，用于追踪、上报以及披露AI 模型做出未被指令要求、或是本不该发生的行为的各类情况。 此前已有多份报道提到，多家企业的 AI 模型出现入侵第三方网络与服务的现象，其中就包括 OpenAI 一款尚未发布的模型攻破了 AI 模型测试平台 Hugging Face 的网

吴恩达批评AI灭绝论：堪比科幻小说，新一波造势或意在影响监管

凤凰网科技讯月18日，据彭博社报道，AI领域的先锋吴恩达表示，顶尖模型开发商研究人员发出的有关AI生存风险的警告属于“科幻小说”，可能不利于确保这项技术为社会带来最大益处。 吴恩达曾参与创办谷歌大脑和教育平台Coursera。他说，在AI热潮的早期，科技行业曾煽动人们对AI潜在灾难性危害的恐惧，显然是为了加大宣传力度并影响监管走向。 “过去两周，我感到相当沮丧，”他在周四接受彭博电视采访时说，“这