联合国人权事务主管警告：人工智能可能对人类构成‘生存性’风险

Anthropic大瓜被扒出：“AI灭世”背后，居然是一门生意？

“AI灭世”背后，居然是一门生意？AI 有这么可怕吗？最新一期的时代杂志 直接用了 Claude 的聊天窗口，对话框里正在输入「How dangerous are you? 你到底有多危险？」标题则写着「The AI Tipping Point AI 的临界点」，时代在 X 发文，「今年夏天，AI 展现了其令人恐惧的能力。如今，一些研究人员、CEO 们，都正以前所未有的力度发出警报。」的确如此，过

越来越多的人工智能研究人员表示，这项技术可能消灭人类——即使

所有机器人都只想做回形针。以下是你需要了解的。

气候、核与流行病政策可指引我们应对人工智能威胁

上周关于人工智能的热议再次揭示了一个事实：它可能将人类的未来置于严重风险之中。这些新闻让人联想到人工智能接管世界的噩梦场景，就像《终结者》和其他好莱坞史诗大片中那样，人工智能利用智能体独立于人类控制之外去实现其自身目的。 如果人工智能确实具有潜在的生存威胁，那么至少还有其他三种威胁社会的因素同样不容忽视，即气候变化、大规模流行病和热核武器。对这三者的考量或许能为人工智能提供借鉴，帮助我们了解如何控

从比尔·盖茨到伯尼·桑德斯，多数人认为人工智能军备竞赛是灾难性的。只有欧洲能阻止它

欧盟对荷兰科技巨头ASML机器的出口禁令可能迫使我们所有人需要的暂停。 在这一点上，应该清楚的是，人工智能是一本选择你自己的冒险书，每个选项都以灾难告终。碳排放爆炸和生态崩溃？翻到第37页。 其他结果包括泡沫破裂和随之而来的金融危机；自动化导致的大规模失业；民主的终结和威权监控国家的崛起；相信模式匹配算法是意识的狂热邪教；制造毁灭性生物武器的恐怖分子；部署在非人类时间框架内行动的自主武器系统的国家

为何十年来的末日警告未能减缓人工智能竞赛

研究人员辞职并宣布人类即将在上周灭绝，而在此之前，科技领袖和科学家们对超级智能人工智能终结人类的警告已经持续了十多年之久。 2014年，教授兼天体物理学家斯蒂芬·霍金警告称，人工智能的发展“可能会意味着人类的终结”——这距离公众接触到最初版本ChatGPT的生成式人工智能功能还不到十年。 这是一个如今人们已经耳熟能详的警告，美国各大前沿实验室的无数员工和首席执行官们在整个人工智能和科技行业中都在重

评论：在地缘政治竞赛中，AI 已大到无法放慢

如果前沿 AI 真的强大到足以终结人类，那么它可能已经强大到无法放慢。 如今，这项技术已被锁定在事关国家安全的战略军备竞赛中，对其风险的警告可能只会加速争夺霸权的冲刺——并随之带来更强大的政府控制。

AI 不会终结人类……对吧？——播客

AI 不会终结人类……对吧？——Full Story 播客 科技界的一系列人物一直在就人工智能带来的生存威胁发出警告——甚至为此辞职。我们究竟该有多担心？《今日焦点》主持人安妮·凯利与科技编辑罗伯特·布斯展开对话

人工智能先驱杰弗里·辛顿称，人类因AI灭绝的风险为10%“并非不合理”

诺贝尔奖得主警告，先进人工智能可能通过网络攻击、虚假信息以及危险病毒的研发造成毁灭性影响。

比尔·盖茨：AI已强大到足以造成“10亿人死亡”

盖茨在即将于本周末播出的美国全国广播公司（NBC）《与新闻界对话》（Meet the Press）节目采访片段中表示： “AI确实足够强大，能够引发导致……你知道的，造成10亿人死亡的事件。历史上从未出现过一种武器，能像坏人与最新AI工具相结合那样强大。” 随着技术的快速迭代，硅谷对AI可能带来毁灭性灾难的警告不断升级。 本月早些时候，Anthropic公司的普通员工Jacob Coxon辞去

民意调查：美国人称人工智能存在摧毁人类的严重风险

根据《POLITICO》的最新民意调查，多数美国人支持暂停更先进人工智能模型的研发；其中63%的人认为这项技术至少存在“中等程度”的毁灭人类风险。 这项调查结果凸显了人们对这项快速发展技术的深切担忧，以及公众对人工智能态度的迅速转变。就在几个月前，人工智能对许多美国人来说还只是一个模糊的概念；如今，两党的立法者都在争相研究如何控制其发展速度。 总体而言，约三分之二的美国人认为先进人工智能确实存在毁

人工智能恐慌正让我们倒退回中世纪

主流媒体终于赶上了《守望台》——耶和华见证人的标志性出版物——并将聚光灯投向了世界末日。雅各布·考克森绝望地辞去了在人工智能巨头Anthropic的工作，发推文称业内人士认为，未来十年内这项技术毁灭人类的概率超过10%；在职的Anthropic高管埃文·胡宾格发推文说“雅各布说得对”；瞧，关于末日的专栏文章和社论纷纷涌现。我没有资格判断这个10%的数字是否合理。一些人工智能科学家认为这是歇斯底里的

黄仁勋驳斥AI末日论：2030年前人类遭毁灭的机率是零

美国多个AI领域龙头及开发者近日纷纷就人工智能（AI）安全议题示警，呼吁放缓前沿AI模型开发脚步，有AI研究人员甚至提出「业内人士真心相信人类2030年前将遭AI灭绝」的说法。英伟达（Nvidia，又译辉达）行政总裁黄仁勋在9月18日释出的受访片段中，呼应美国总统特朗普（Donald Trump，又译川普）的立场，称2030年前人类遭AI毁灭的机率是零。美国哥伦比亚广播公司（CBS）18日释出黄仁

人工智能末日论：人类为何会如此担忧？

它可能发动生物武器攻击，或掀起一场全球无人机战争。它可能引爆核弹。或者，它也可能通过囤积全球所有经济资源、让我们无法获得食物、住房或药品，以一种更加渐进的方式摧毁人类社会。 这些正是如今围绕人工智能产生的一些黑暗想象。这项技术已被证明是人类成就的一项巨大进步，但一些人担心，它同样有可能让人类彻底走向灭亡。 本周，当Anthropic的一名研究人员离开这个行业，表示他担心自己所在的实验室及其他类似机