末日、加速与观望：AI辩论的三大阵营

围绕AI的激烈争论，如今已逐渐演变成针锋相对的两大阵营，以及一个谨慎观望的中间派。以下是对这场技术之争战线的梳理。这项技术如今已成为经济的支柱，并可能决定地球的未来。 警告AI可能带来灾难性影响的“末日论者”，大多来自AI企业内部、学术界，或同时来自这两个领域。 在业界人士中，最具代表性的是阿莫戴。他是Anthropic的联合创始人，如今该公司已成为AI领域的重要巨头，并正朝着历史性的首次公开募股

越来越多的人工智能业内人士警告称人类可能灭绝

一些顶级人工智能公司的前员工表示，未来模型的潜力无异于杀死全人类。NBC新闻的克里斯汀·罗曼斯报道。

民意调查：美国人称人工智能存在摧毁人类的严重风险

根据《POLITICO》的最新民意调查，多数美国人支持暂停更先进人工智能模型的研发；其中63%的人认为这项技术至少存在“中等程度”的毁灭人类风险。 这项调查结果凸显了人们对这项快速发展技术的深切担忧，以及公众对人工智能态度的迅速转变。就在几个月前，人工智能对许多美国人来说还只是一个模糊的概念；如今，两党的立法者都在争相研究如何控制其发展速度。 总体而言，约三分之二的美国人认为先进人工智能确实存在毁

迈克·约翰逊称人工智能末日警告是“中国的心理战”

众议院议长迈克·约翰逊（共和党人，来自路易斯安那州）周一对福克斯商业频道表示，所有关于数据中心和人工智能会毁灭人类的警告都不过是中国的宣传手段，目的是让美国退出人工智能领域的竞争。 “我的意思是，关于中国的这些言论……事实上，已经有几位科技高管和立法者明确表示，那些反对数据中心的言论其实都来自中国。”主持人谢丽尔·卡索内问道。 “不过民主党人正在利用这一点来制造舆论压力，”约翰逊继续说道，“他们把

我们已被警告过人工智能——但它真的可能杀死人类吗？| 关于那件事

。 一位Anthropic的研究员Jacob Coxon因担心人工智能可能在未来十年内导致人类灭绝而辞职——随后出现了一系列警告。 Andrew Chang解释了“智能爆炸”可能带来的危险，这让人工智能行业的员工和专家们感到担忧。 （图片由The Canadian Press、Adobe Stock和Images提供）

黄仁勋：AI巨头喊放慢脚步 恐为托词卸责把关

黄仁勋表示，“AI导致世界末日”的预言“没有科学根据”。（路透社照片） （华盛顿21日综合电）辉达首席执行员黄仁勋接受美国哥伦比亚广播公司新闻网（CBS News）访问时，驳斥人工智能（AI）可能在未来10年内导致人类灭绝的警告，还说这类预测只是“末日论述”。 英国广播公司（BBC）报道，黄仁勋受访时说，2030年绝对不会是世界末日，AI毁灭世界的机率是0%，还说没必要吓唬人，这是非常不负责任的行

吴恩达批评AI灭绝论：堪比科幻小说，新一波造势或意在影响监管

凤凰网科技讯月18日，据彭博社报道，AI领域的先锋吴恩达表示，顶尖模型开发商研究人员发出的有关AI生存风险的警告属于“科幻小说”，可能不利于确保这项技术为社会带来最大益处。 吴恩达曾参与创办谷歌大脑和教育平台Coursera。他说，在AI热潮的早期，科技行业曾煽动人们对AI潜在灾难性危害的恐惧，显然是为了加大宣传力度并影响监管走向。 “过去两周，我感到相当沮丧，”他在周四接受彭博电视采访时说，“这

改变人工智能进程的十天

旧金山，9月19日——多年来，人工智能领域的竞争一直遵循着硅谷一贯的“快速创新、打破传统”的发展模式：不断开发出更强大的人工智能系统。 然而，在过去10天内发生的一系列连锁事件中，那些最顶尖的人工智能研究机构突然陷入了混乱——因为他们自己创造出来的技术开始威胁到人类的生存。 一位人工智能研究员辞职，并警告称，人工智能的发展速度可能在未来十年内对人类构成生存威胁；另一位研究员则表示，人类灭绝的概率已

为什么人工智能领袖呼吁放缓？

过去一周，人工智能领域发生了引人瞩目的事件。上周二，一名研究人员从Anthropic辞职，称人工智能公司“正一路冲向可自我改进的超级智能，拿我们的生命当赌注”。一名Anthropic的在职员工对此表示认同，称他认为人工智能在未来10年内导致人类灭绝的可能性超过10%。 随后在周六，Anthropic首席执行官达里奥·阿莫代伊发表文章，呼吁放缓人工智能的发展，以便安全措施能够跟上技术的步伐。他的竞争

人工智能安全辩论

人工智能“终止开关”解析：“不是力度太小，但可能为时已晚”

人工智能真的会毁灭我们吗？近年来，随着人们对人工智能可能带来的负面影响的担忧日益加剧，这个问题在家庭聚餐和社交媒体讨论中频繁被提及。上周，一些曾在 OpenAI 工作过的研究人员警告称，人工智能可能会在短时间内摧毁人类。 如今，全球最有权势的人士们对于人工智能的命运也存在分歧：有人认为人类已经注定走向灭亡，也有人认为这些担忧毫无根据。他们甚至无法就如何应对这一挑战达成共识。 特斯拉和 SpaceX

Anthropic大瓜被扒出：“AI灭世”背后，居然是一门生意？

“AI灭世”背后，居然是一门生意？AI 有这么可怕吗？最新一期的时代杂志 直接用了 Claude 的聊天窗口，对话框里正在输入「How dangerous are you? 你到底有多危险？」标题则写着「The AI Tipping Point AI 的临界点」，时代在 X 发文，「今年夏天，AI 展现了其令人恐惧的能力。如今，一些研究人员、CEO 们，都正以前所未有的力度发出警报。」 的确如此，

中国也认为AI可能毁灭人类，但当务之急是先赶上美国

北京方面认为，AI是中美科技角力的主战场。在中国各地的政府机关和AI研究实验室里，迎头赶上。 美国还在为“AI或将在几年内毁灭人类”的警告忧心忡忡，AI是“新一轮科技革命的核心引擎”，也是中美角力的主战场。那些开发和监管中国顶尖AI模型的人，并不觉得他们已经造出了21世纪版的核武器，当美国还在不断精进自己的AI武器时，他们不会放慢脚步。并不是说中国官员没有意识到威胁。数年来，北京方面一直有规章制度

人工智能究竟会如何“消灭全人类”？以下是五种最有可能的情景

本月早些时候，人工智能研究员雅各布·考克森在 Anthropic 工作仅四个月后辞职。他在 X 平台发布声明称：“构建 AI 的人们真诚地相信，到本世纪末，AI 可能会杀死我们所有人。”Anthropic 的高级员工埃文·哈宾格实际上同意考克森的观点，并补充说，他个人认为这种情况在未来十年内发生的概率超过 10%。 不出所料，这些言论引起了轩然大波。现在关于放缓 AI 研究和加强对该技术的“人类控

人工智能究竟如何可能致我们于死地？

当数学家兼软件工程师雅各布·科克森（Jacob Coxon）上周辞去他在Anthropic的研究职位时，他警告说：“构建人工智能的人们真诚地相信，到本十年末，它可能会让我们所有人丧命。”如果这不是事实，这本来会是一句惊人的言论。事实上，人工智能领域的领导者们长期以来一直在说同样的话。 2018年，Anthropic首席执行官达里奥·阿莫迪（Dario Amodei，当时是OpenAI的研究科学家）

以下是人工智能引发的“末日”可能呈现的样子：

关于人工智能是否能杀死我们的争论最近到处都是，但真正的人工智能灾难会是什么样子呢？本周，Brian Barrett，Zoë Schiffer和Leah Feiger打破了专家们最担心的三个现实世界场景，包括被黑客入侵的供水系统，生物武器和自主机器人。我们还讨论了Salesforce年度会议的亮点，OpenAI的Sam Altman和Anthropic的Dario Amodei为他们在AI安全方面的

AI末日？科技领袖与政客就放缓发展展开激烈交锋

这一切始于一场辞职。本月早些时候，Anthropic研究员Jacob Coxon离职，并警告称人工智能可能在十年内导致人类灭绝；其同事Evan Hubinger则估计这一概率在十年内超过10%。 几天后，Anthropic首席执行官Dario Amodei呼吁行业放缓提升人工智能能力的速度，OpenAI的Sam Altman和Grok背后的Elon Musk对此表示支持。 这种担忧源于从会“幻觉”

黄仁勋再次反驳AI末日论：不会灭绝人类 2030年世界末日概率为0

9月19日，据彭博社报道，英伟达CEO黄仁勋(Jensen Huang)再次反驳了AI末日论，称这项技术不会对人类构成灭绝风险。黄仁勋接受了哥伦比亚广播公司新闻采访。当被主持人问及是否同意特朗普总统将AI担忧称之为“骗局”的说法时，黄仁勋似乎不愿直接回答，但他明确表示不认同AI将在2030年摧毁人类的预测。 黄仁勋“不管人们怎么描述，2030年都不会是世界末日，”黄仁勋表示，“2030年成为世界末

FT社评：是时候给尖端人工智能开发按下暂停键了

确实存在被中国抢先的风险。但即使抛开AI“到本世纪末可能杀死我们所有人”的警告不谈，最先进的AI模型也显然已开始脱离人类的掌控。 在这个世界上那些最强大人工智能(AI)公司的掌门人身上，可以看到一种类似“杰基尔博士与海德先生”（Jekyll-and-Hyde，《化身博士》中杰基尔博士喝了自己配制的药水，分裂出海德先生这个邪恶人格——译者注）的双重人格。一方面，这些高管如今在谈论，鉴于AI可能给人类

研究人员称可能将人类置于风险之中的AI末日情景一览

芭芭拉·奥尔图泰（Barbara Ortutay）与凯尔文·陈（Kelvin Chan）指出：多年来，人工智能研究人员一直警告称这项技术有可能毁灭人类——例如，人工智能机器人可能会设计出一种无法被阻止的致命疾病、引发核战争，或者将整个地球变成制造回形针的工厂（这只是一个假设性的情景）。 自从一些企业高管出于安全考虑建议减缓人工智能的发展速度后，关于这些末日场景的争论在人工智能行业内外愈演愈烈。 尽

约翰逊淡化人工智能警告：“你们不会在10年内全部灭亡”

众议长迈克·约翰逊驳斥了对人工智能可能导致文明灭绝的担忧，他将人工智能实验室内部近期发出的警报与他所称的左翼政治人士对气候变化的过度警告相提并论。在为特朗普总统将人工智能警报描述为“骗局”进行辩护时，他提到了众议员亚历山德里娅·奥卡西奥-科尔特斯（纽约州民主党人）。“当总统说‘骗局’时，他指的是，我们都看过这部电影了，”约翰逊在周二的新闻发布会上回答有关特朗普言论的问题时说。 “制造一场灾难。媒体

黄仁勋：2030年AI导致世界毁灭的可能性为零，部分AI公司在逃避应承担的责任

黄仁勋再谈AI（人工智能）安全、中国市场和数据中心建造争议等热门话题。 月20日，在哥伦比亚广播公司播出的45分钟最新采访中，AI芯片龙头英伟达CEO黄仁勋又一次强调，关于AI可能引发人类灭绝的恐慌被夸大了，AI行业正在经历“从科研实验室向产品生产与服务”的过渡阶段，他反对盲目增加针对AI的新法规。 对于“AI末日论”，黄仁勋直言，到2030年，“那完全是假的。这种叙事太戏剧化了，只是为了博取眼球

人工智能恐慌正让我们倒退回中世纪

主流媒体终于赶上了《守望台》——耶和华见证人的标志性出版物——并将聚光灯投向了世界末日。雅各布·考克森绝望地辞去了在人工智能巨头Anthropic的工作，发推文称业内人士认为，未来十年内这项技术毁灭人类的概率超过10%；在职的Anthropic高管埃文·胡宾格发推文说“雅各布说得对”；瞧，关于末日的专栏文章和社论纷纷涌现。 我没有资格判断这个10%的数字是否合理。一些人工智能科学家认为这是歇斯底里

OpenAI首席执行官奥特曼谈人工智能：我们或许会失去控制权

OpenAI 首席执行官山姆・奥特曼，似乎正被自己参与打造的、如同噩梦一般的人工智能产物深深困扰，甚至难以安睡。美国东部时间凌晨 0 点 57 分左右，奥特曼在 X “人工智能的发展存在两种必须规避的灾难性走向。第一，我们可能会对人工智能失去对未来的掌控。这是无法接受的。我们坚定站在人类一方，人工智能必须始终服务于人。想要做到这一点，我们必须保证对齐技术与安全手段的发展速度，跑在模型能力迭代的前面