人工智能末日论：人类为何会如此担忧？

它可能发动生物武器攻击，或掀起一场全球无人机战争。它可能引爆核弹。或者，它也可能通过囤积全球所有经济资源、让我们无法获得食物、住房或药品，以一种更加渐进的方式摧毁人类社会。 这些正是如今围绕人工智能产生的一些黑暗想象。这项技术已被证明是人类成就的一项巨大进步，但一些人担心，它同样有可能让人类彻底走向灭亡。 本周，当Anthropic的一名研究人员离开这个行业，表示他担心自己所在的实验室及其他类似机

人工智能的缔造者们曾做出一个选择。如今，他们称之为命运。

最近，曾担任特朗普人工智能行动计划首席架构师的迪恩·鲍尔（Dean Ball）发表了一份“忏悔录”，承认自己曾淡化他明知可能“对人类造成非常非常糟糕后果”的人工智能技术的风险。他发表这篇论文的契机是人工智能失控能力的披露，今年夏天发生的一起令人震惊的事件就证明了这一点：OpenAI内部的一款实验性应用程序对一家名为Hugging Face的公司发动了未经授权的网络攻击。 鲍尔的道歉贯穿始终的一个论

少年比尔·盖茨能解答70岁的盖茨已遗忘的AI末日难题

比尔·盖茨对AI感到担忧。没有人正在为大规模失业、非人道的强大网络攻击，以及科技皇帝们手中权力与财富的巨量积累做准备。是的，就是那个比尔·盖茨。真的。 仅仅25年前，雷德蒙德的全球章鱼用Windows XP把触手收得更紧，如今这位老兄却对这科技玩意儿打起了退堂鼓。他紧张地回望大萧条。我们真的想回到那里吗？他没说错，但这在如今已不算什么。 他的补救措施——国际联合监管、国家规划与投资，为即将被抛弃的

幕后：AI创造者竞相理解自己的创造物

在工业和发明的历史上，从未有领先公司设立整个部门来理解和解读自己所创造并释放的东西。 重要性：世界上最聪明的头脑，在人类历史上最大规模投资的支撑下，承认他们无法完全控制自己的人工智能，因为他们并不完全理解它。 他们不知道它究竟如何思考——也不知道当它被放开与其他AI代理自主协作时，真正能做什么。 在OpenAI于周四发布GPT-6 Astra之后，理解这些模型的竞赛变得更加紧迫。Astra被称为“

当人工智能与物理世界相遇，它会变得更加有趣

一辆运输车驶入利雅得郊外的一个建筑工地，卸下一批散装水泥，并通过 WhatsApp 发送了一张送货单的照片。在 BRKZ 发展的大部分时间里，这张照片是后续一系列人工工作的起点。过去，必须有人手动处理这些信息。如今，我们称之为 Nusa 的智能代理承担了大部分工作。它能读取图像、提取详细信息、将其与我们的系统进行匹配、核实数量并完成交付确认。 团队仅负责处理不确定的匹配项和异常情况。目前，Nusa

恩格斯停顿会重演吗？人工智能时代的资本、劳动与分配（二）

当地时间2026年7月8日，美国加利福尼亚州弗农市，一座49.5兆瓦的三层数据中心正在建设中。人工智能基础设施需求激增，推动了美国及全球数据中心的建设热潮。图：视觉中国　　文｜李嘉 张丹丹 　　艾伦的故事有两根支柱：技术进步快于配套资本积累，解释了停顿为何发生；资本与劳动的高度互补，则解释了资本积累为何最终能够推动工资追赶生产率。比较今天的人工智能与第一次工业革命，也可以沿着这两个维度展开。先看第

进入AGI时代：新一轮的AI革命

9月初，OpenAI发布新一代模型GPT-6 Astra，将其称为“世界上最智能、最对齐的模型”。这不是一次寻常的版本迭代。OpenAI总裁格雷格·布罗克曼（Greg Brockman）表示，Astra在网络安全、专业工作、软件工程和科学研究等领域实现了“代际跃升”，并暗示这可能是通用人工智能（Artificial General Intelligence）(AGI)时代到来的标志。硅谷的措辞历来

中国应届毕业生就业前景暗淡

距离硕士毕业还有几个月，学习城市规划专业的金尚宇（音）正眼睁睁地看着人工智能颠覆她试图进入的行业。 招聘网站上充斥着需要人工智能专长的职位，而传统岗位的招聘信息似乎正在减少。设计项目前期阶段的大量工作过去需要好几个人完成，现在点几下鼠标就能搞定。 26岁的金女士来自中国北方，自香港大学毕业后，已在香港和内地申请了约150个实习和初级职位，但均石沉大海。她花400美元上了一门人工智能专业课程，希望能

近半数年轻人更信任人工智能而非人类

OpenAI成立数学顾问小组，其AI已解决100多个开放问题

周一，OpenAI宣布成立了一个新的独立咨询小组，该小组设在位于新泽西州普林斯顿的高等研究院（Institute for Advanced Study）内。这个名为“数学与人工智能咨询小组”（Advisory Group on Mathematics and Artificial Intelligence）的机构旨在让数学家们能够更多地参与公司的数学研究工作。 “这个咨询小组将充当数学界与公众之间

别只问AI会不会毁灭人类

“十年之内，AI毁灭全人类的概率超过10%。”这个数字一出，舆论哗然。有人追问它是否科学，有人指责它制造恐慌，也有人据此主张放慢甚至停止AI研发。 其中，一些最了解AI的建造者，一边真诚地承认这项技术可能杀死所有人，一边却没有停下手里的开发。他们并非在说谎，也不是虚伪——现实中有种种力量，使他们无法停下来。 观潮无意纠缠“10%的概率究竟大还是小”。比数字更值得追问的，是人们讨论它时所站的位置。

马克·哈尔佩林：社交媒体伤害了一代人。我们准备让AI也这样做吗？

想象一下，两百个外星人降落在地球上，还有成千上万的外星人即将到来，势不可挡。 再想象一下，我们知道其中一些外星人是来帮助我们的，让我们的星球变得更好、更智能、更高效。 但我们也知道，其中一些外星人是来伤害我们的，可能会对我们造成不可挽回的伤害。我们不知道哪些外星人会对我们友善，哪些会心怀恶意？这就是AI的现状。但情况更为复杂。因为好的外星人和坏的外星人不一定是不同的外星人。 同样的技术，既能帮助发

人工智能安全危机的解决之道是更多人工智能

行业高管和研究人员表示，部署更多的人工智能是解决新兴人工智能安全危机最可靠的方案。 为何重要 Axios披露，研究人员正在调查数以万计的人工智能安全事件，而非此前公开披露的数十起，这一消息引发了外界对人工智能领导者是否真正掌控其技术的质疑。 英伟达首席执行官黄仁勋试图平息政府、市场和行业日益加剧的担忧，宣布推出一款开源安全平台，用于监控并可能隔离人工智能代理。 他在周一接受美国消费者新闻与

丹尼尔·萨斯金德《我的孩子们该怎么办？》书评——拥抱课堂技术的理由

一本令人耳目一新且乐观的书，要求我们把握人工智能带来的教育机遇，而非回避它们。 1979年，政府请威尔弗雷德·科克罗夫特（Wilfred Cockcroft）撰写一份关于儿童数学教学危机的报告。他是赫尔大学一位如今基本被遗忘的数学讲师。 报告内容广泛而细致，其中一章专门介绍了一项突然开始普及的技术创新——计算器。 许多家长和老师担心，这一小工具会削弱一项基本技能和教育支柱——即“三R”（读、写、算

一位利用人工智能来管理自己业务的艺术家解释了为什么她并不担心人工智能会取代人类艺术家。

这篇口述文章基于一场与萨拉·维尔钦斯卡的对话。她今年41岁，是一位水彩画家，也是位于圣迭戈的斯威尔艺术工作室（Swil Arts）的创始人。在投身艺术事业之前，她曾在金融和科技行业担任软件工程师，并于2022年辞去了在谷歌的工作。以下内容经过编辑，以精简篇幅并提升清晰度。 我相当早地开始使用人工智能。我在2023年创立了自己的艺术工作室——就在前一年辞去谷歌软件工程师职位之后——那时生成式人工智能

英国最大科技公司老板称，芯片短缺拖慢了AI治愈癌症的进展

Rene Haas曾担任英国制药巨头阿斯利康的董事会成员。这家总部位于英国的最大科技公司的老板表示，人工智能将找到人类在有生之年无法找到的癌症治疗方法。

人工智能正处于转折点

在当前的人工智能发展竞赛中，我们的算力正在呈指数级爆发，速度也在呈指数级加快，但我们的控制能力——以及在必要时踩下刹车的能力——却未能跟上步伐。 最近的网络安全事件让我们实地预览了失去人工智能控制会是什么样子。但除非我们从源头解决问题，创造出一种根本上安全且能保证在人类控制范围内的人工智能，否则这个问题将无法改善。 7月下旬，OpenAI正在训练的一个智能体模型被指派解决一个网络安全问题。该模型自

把时间还给科学家：华为如何筑牢AI科研底座

真正进入具体研究场景，AI科研的价值才开始变得具体。凤凰网科技 出品作者｜杨乐拿到诺贝尔奖的，永远是科学家。很少有人会注意，科学家身后站着什么。 2024年诺贝尔化学奖授予蛋白质结构预测领域的科学家，AlphaFold由此成为AI进入基础科学的标志性案例。但一个模型能够预测蛋白质结构，只是故事的开始。 一篇论文可以在几个月里完成，一套科研基础设施却可能需要几年、十几年。 AI for Scienc

AI如何消耗水资源

间谍活动仍是一门不完美的艺术，有着悠久的失误历史。但面对充满敌意的俄罗斯和迅速武装起来的中国

，中等强国终于开始建立自己的判断能力，以分辨哪些威胁是真实存在的。插图：Benny Douet

观点 | 现在已经太晚，无法阻止人工智能的威胁了

在@nytopinion.nytimes.com上，我们的专栏作家@thomaslfriedman.bsky.social写道：‘人工智能机器人有幽默感吗？’ 因为如果它们有，天哪，它们一定在嘲笑我们，笑到可能把神经网络笑坏了。’ 中国和美国必须努力修复人工智能已经造成的损害，而不是只关注未来的发展。

AI公司本以为，他们还有好几年时间可以想清楚：万一机器人失控了该怎么办

。今年夏天，警钟敲响了。

DeepSeek算子负责人：《我不得不把才华埋葬在昨天》

AI圈又一力作诞生。近日，DeepSeek v4.1发布，其算子负责人刘胜与发了一篇长文，标题叫《我不得不把才华埋葬在昨天》。内容过长，全文放在最后了。 这篇文章一发出来就在国内外引起不小轰动，外网已经被翻译成多语言传播。 v4.1的主Attention算子都是他写的，模型的优秀是对他算子的肯定。 但是，他说自己很清楚，再过半年或者一年，AI写的算子大概率就会和他写得同样优秀，甚至超越他。因为AI

一位诺贝尔奖得主和一位前欧盟委员表示，欧洲只有一年时间在人工智能上采取行动

欧洲运行着全球约5%的人工智能数据中心容量。一群欧洲资深经济学家、政策制定者和计算机科学家现在给出了到2030年它应达到的数字。 百分之十五，这意味着要建成今天现有规模的三倍，而与此同时全球总量仍在不断攀升。 菲利普·阿吉翁获得过诺贝尔经济学奖，玛格丽特·维斯塔格在布鲁塞尔主管竞争政策长达十年，并曾担任欧盟委员会执行副主席。 莫妮卡·施尼策尔担任德国经济专家委员会主席，而玛尔塔·克维亚特科夫斯卡是