【解读】人工智能真的会“杀光所有人”吗？

上周，人工智能公司 Anthropic 一位离职的研究人员发出严厉警告，称人工智能（AI）可能会在十年内“杀光所有人”，引起社会关注 AI 快速发展所带来的危险。 外界不禁问，为什么会出现这可能？而 AI 又可以怎样令人类灭亡？ 专家表示，担忧源于 AI 发展的速度，以及越来越多证据，如今年七月发生的 Hugging Face 网络攻击事件表明，AI 可以脱离人类控制，以我们不希望且无法理解的方式

联合国人权事务高级专员警告：人工智能可能对人类构成“生存威胁"

联合国人权事务高级专员沃尔克·图尔克（Volker Türk）周一（9月7日）警告称，人工智能可能变得足够强大，足以威胁人类，并表示他将在未来几天敦促各公司降低风险。 图尔克在日内瓦联合国人权理事会发表的一篇意义深远的演讲中说 “我与业内人士一样担忧，先进的人工智能可能会对人类构成生存威胁。” 即将于下个月开始第二个任期的图尔克呼吁“必须全力以赴，在为时已晚之前，为人工智能的安全保障建立铁一般的保

大卫·马库斯：大科技发明了AI末日来逃避现实生活中的问题

仿佛美国人还没有足够的担心--维持收支平衡和规划未来--世界上最大的人工智能公司的负责人现在警告说，他们的突破性技术可能会让我们没有未来。我们可能都会死。 鉴于我们刚刚度过了气候变化和COVID-19，这确实是一种耻辱。现在这个？也许我们可以关闭人工智能两周来拉平曲线。 本周，民主党人不顾一切地加入这支垂死的潮流，做他们一直在做的事情--监管工业至死并阻碍增长。 桑德斯对可能为外国广告商提供优势的

比尔盖兹：AI就业冲击 全球恐经历20年动荡转型

（纽约15日综合电）“人工智能（AI）和机器人最终或许能够创造足够富足的社会，让人们缩短每周工作时间甚至提前退休，不过在此之前，全球可能要经历一段长达约20年的动荡转型期”，以上是微软创办人比尔盖兹接受上海《澎湃新闻》访问时所说的一番话，“我在与各国领导人交流时，请从现在就开始认真思考这个问题，因为你们可能低估了它。” 盖兹基金会今天发布第9年度《目标守卫者报告》，AI究竟会缩小医疗、教育和经济机

为什么人工智能研究人员会警告人类灭绝风险

关于人工智能对人类构成的生存风险，戏剧性的警告并不新鲜。早在20世纪40年代，著名科学家兼科幻作家艾萨克·阿西莫夫就探讨了智能机器可能带来的风险和意外后果。 1991年，好莱坞大片《终结者2》设想了一个反乌托邦式的2029年，在其中，一个名为“天网”的失控军用人工智能指挥杀手机器人向人类开战。 如果人工智能界几位最知名人物的警告可信，类似情景可能成为现实——甚至早在2029年之前。要求严格监管的呼

人工智能先驱杰弗里·辛顿称，人类因AI灭绝的风险为10%“并非不合理”

诺贝尔奖得主警告，先进人工智能可能通过网络攻击、虚假信息以及危险病毒的研发造成毁灭性影响。

英国央行行长告诉G20：人工智能可能导致全球经济衰退

安德鲁·贝利警告各国，先进的“前沿模型”可能破坏“高度互联”的金融体系。 英国央行行长安德鲁·贝利加入了越来越多警告最先进人工智能技术带来全球风险的人士行列。 在他以国际金融稳定委员会（FSB）主席身份发给各国财长和央行行长的两页信函中，贝利表示，“前沿”人工智能模型“正展现出日益复杂的自主性、解决问题的能力以及威胁能力”。继续阅读...

改变人工智能进程的十天

旧金山，9月19日——多年来，人工智能领域的竞争一直遵循着硅谷一贯的“快速创新、打破传统”的发展模式：不断开发出更强大的人工智能系统。 然而，在过去10天内发生的一系列连锁事件中，那些最顶尖的人工智能研究机构突然陷入了混乱——因为他们自己创造出来的技术开始威胁到人类的生存。 一位人工智能研究员辞职，并警告称，人工智能的发展速度可能在未来十年内对人类构成生存威胁；另一位研究员则表示，人类灭绝的概率已

越来越多的人工智能业内人士警告称人类可能灭绝

一些顶级人工智能公司的前员工表示，未来模型的潜力无异于杀死全人类。NBC新闻的克里斯汀·罗曼斯报道。

比尔·盖茨表示，AI公司自我监管还不够，政府应参与监督

微软联合创始人比尔·盖茨表示，执法部门和政界人士应参与为AI行业监督设立护栏。

为何十年来的末日警告未能减缓人工智能竞赛

研究人员辞职并宣布人类即将在上周灭绝，而在此之前，科技领袖和科学家们对超级智能人工智能终结人类的警告已经持续了十多年之久。 2014年，教授兼天体物理学家斯蒂芬·霍金警告称，人工智能的发展“可能会意味着人类的终结”——这距离公众接触到最初版本ChatGPT的生成式人工智能功能还不到十年。 这是一个如今人们已经耳熟能详的警告，美国各大前沿实验室的无数员工和首席执行官们在整个人工智能和科技行业中都在重

联合国人权事务主管警告：人工智能可能对人类构成‘生存性’风险

联合国秘书长警告AI风险：全球不能陷入逐底竞争

联合国秘书长古特雷斯当地时间周三警告各国领导人，快速发展的人工智能(AI)正在带来不容忽视的风险，全球不能承受AI安全领域逐底竞争的风险。这一表态与美国总统特朗普形成分歧，后者此前表示，现有的监管措施已经足够。 在下周联合国大会于纽约举行之前，古特雷斯表示，加强对AI的监管将成为他与各国领导人会谈时重点讨论的问题之一。 在新闻发布会上，“当我们审视世界各地面临的威胁时，我想就AI快速发展所引发的日

这并非假设：人工智能的危险已然降临

最近几周，对人工智能的担忧在科技界和政策界催生了意想不到的同盟。山姆·奥特曼、埃隆·马斯克和德米斯·哈萨比斯等科技巨头，与达里奥·阿莫迪、萨蒂亚·纳德拉和比尔·盖茨一同对人工智能的危险发出警报，并呼吁放慢该技术的发展步伐，尽管他们多年来一直在竞相争夺主导地位。参议员伯尼·桑德斯与史蒂夫·班农联手敦促国会监管人工智能，这已成为跨越美国政治光谱凝聚共识的极少数议题之一。 最新的举动部分是由人工智能研究

人工智能末日论：人类为何会如此担忧？

它可能发动生物武器攻击，或掀起一场全球无人机战争。它可能引爆核弹。或者，它也可能通过囤积全球所有经济资源、让我们无法获得食物、住房或药品，以一种更加渐进的方式摧毁人类社会。 这些正是如今围绕人工智能产生的一些黑暗想象。这项技术已被证明是人类成就的一项巨大进步，但一些人担心，它同样有可能让人类彻底走向灭亡。 本周，当Anthropic的一名研究人员离开这个行业，表示他担心自己所在的实验室及其他类似机

研究人员警告2030年前人类灭绝风险，立法者抨击AI公司

Anthropic前员工Jacob Coxon表示，AI将成为‘超人类系统’，并可能在十年内导致人类灭绝。 就在三名Anthropic研究人员警告人工智能可能在本十年内毁灭人类的一天后，立法者开始猛烈抨击这一新兴技术的风险。 德克萨斯州共和党参议员特德·克鲁兹（Ted Cruz）在ABC电视台《The View》节目采访中表示，AI构成‘灾难性风险’，并称他‘读了那位开发者发布的整个推特帖子，这非

【市场动态】古特雷斯最后一次以秘书长身份出席联大 以悲观的图景警告AI失控风险

当地时间2026年9月22日，美国纽约，联合国秘书长安东尼奥·古特雷斯在联合国总部举行的第81届联合国大会一般性辩论上发表讲话。图：视觉中国　　【彭博9月22日电】联合国秘书长安东尼奥·古特雷斯进一步呼吁加强人工智能监管，以避免出现企业权力失控和“杀手机器人”横行的反乌托邦未来。　　古特雷斯在联合国大会最后一次面向各国领导人的讲话中，就AI风险发出警告，称前沿模型快速发展可能削弱民族国家的权力。　

更多AI研究人员警告人工智能对人类的威胁

NBC新闻的汤姆·拉马斯采访了另外两位人工智能研究人员，探讨人工智能对人类的潜在威胁。 此前，AI研究员雅各布·考克森发布了一条病毒式传播的推文，称他认为人工智能可能在未来十年内毁灭人类。 拉马斯还采访了即将在加州大学伯克利分校任教的萨亚什·卡普尔，他也警告了这一风险，但表示政策建议和监管措施有助于防止进一步的威胁。

【商圈】比尔・盖茨：从AI吹鼓手到吹哨者

【财新数据专稿】2026年8月26日，微软联合创始人比尔・盖茨在个人博客Gates Notes发布近6000字长文《动荡的AI时代已经到来 我们当下的选择至关重要》。这篇文章被《华尔街日报曾经坚信技术进步能够自动普惠社会的科技教父，发出明确警告——AI转型或将成为人类历史最动荡阶段之一，全世界尚未建立完整应对方案，若制度建设缺位，这项强大技术既可以成为缩小差距的均衡器，也可能会放大社会不公。 “这

“他们在拿我们的生命开玩笑”：AI研究员从Anthropic辞职

他警告称，按照目前的发展速度，人工智能可能会在本十年末消灭人类。

为什么比尔·盖茨想要人工智能法律？他说自我监管还不够

比尔·盖茨表示，人工智能需要政府规则、更强的保障措施和监控，并认为人工智能公司的自我监管是不够的。

科技巨头无法解决其弗兰肯斯坦问题

微软联合创始人、亿万富翁比尔·盖茨于8月26日发表了一篇6000字的文章，称如果他能做到，他会放慢人工智能的发展速度。他在接受《纽约时报》采访时详细阐述道：“私下里，那些了解这东西有多好、以及它正在变得多好的人，都非常担心”，但很少有人公开提出这些问题，因为他们“现在互相说‘嘿，伙计，别这么说。这对我们不利——我们正试图筹集下一万亿美元。’” 他对指望行业自我管理的想法嗤之以鼻，称“对有史以来最危

如何治理人工智能的生存风险

当前，前沿人工智能技术治理方面的瘫痪状态正在当下造成切实损害，并增加未来发生灾难的可能性。 这种瘫痪被一套危险的借口所开脱：技术发展太快，监管跟不上；企业可以自我监管；在美国与中国的竞争中，公共安全可以往后放。各国政府一直难以给予人工智能风险应有的关注。在大国竞争和行业内部军备竞赛的双重态势下，许多国家不敢单独行动。在这种背景下，每一次呼吁克制都会遇到同样的反问：如果竞争对手不肯放慢，我们为什么要

中美AI竞赛：世界变得更危险还是更安全？

关于人工智能（AI）及其潜在危险的警告，近年来可谓接连不断。 美国最大的人工智能公司之一——Anthropic——的一名顶尖AI安全研究人员警告说，这项技术正以惊人的速度发展，未来十年内，AI“可能导致全人类灭绝”的概率高达10%。 这样的担忧引发了要求美国采取协调一致行动、放缓AI发展速度的呼声。但与此同时，也有人质疑是否真的有必要为AI设置监管“护栏”。美国总统特朗普就是其中之一。他认为，如果