三个月后的AI有多猛 连顶尖研究员都不敢预测了

一名参与千禧年难题攻关的研究人员，过去还愿意预测未来12个月的AI进展，现在连三个月以后都不敢判断了。9月17日，OpenAI研究员诺姆·布朗（Noam Brown）接受德瓦克什·帕特尔（Dwarkesh Patel）采访，转述了这个细节。访谈还谈到多智能体、AI参与制造下一代AI，以及越来越难做的安全测试。 这名研究人员参与的，是纳维-斯托克斯方程（Navier-Stokes）的存在性与光滑性问

人工智能在最糟糕的时刻到来了

人工智能（AI）并非降临到一个能够妥善接纳它的世界中；相反，它进入的是一个在过去二十年里系统性地破坏了那些让我们能够负责任地运用这项强大技术的根基的社会。制度权威、共同的价值观以及信息的真实性都遭到了严重破坏。我们正在这个充满信任危机的社会中，构建人类历史上最复杂的认知技术。 如果你想设计一个对人工智能发展极为不利的时机，或许就会创造出这样的时刻。 从“后真相时代”到“后信任时代”：十年前，我们还

88小时抵一个人思考4000年！OpenAI核心研究员：除了自我进化，更可怕的是AI正学会“隐藏自己”

AI正在把过去需要数千年完成的认知劳动压缩到数天。真正的问题已经不只是模型能否变得更聪明，而是实验能否跟上、人类能否在模型继续自我改进前确认它仍然安全。 近日，在Dwarkesh Podcast的一场长篇访谈中，主持人Dwarkesh Patel与OpenAI研究员Noam Brown围绕多智能体、递归式自我改进（RSI）和AI对齐展开讨论。访谈的直接背景，是OpenAI让约1万个AI智能体连续运

新的叙事时刻：Astra之后的AI渗透率和Token总需求

在AI时代，打败你的，是那个比你更早、更会使用AI的人或公司。 但在这次OpenAI推出自己的GPT-6 Astra模型之后，上面这句话就完全不准确了，或者说完全错了。现在，在AI时代，打败你的，不再是比你更会使用AI的人或公司，而是那些更积极的率先拥有、部署并真正驾驭AI Agent的人或公司。特别提醒一句，上面的“你”也可以是一个公司。 还记得么？上个月，Astra就曾经亮过相，那时候作为Op

数学家们发表了可机器校验的证明。OpenAI在与记者的通话中宣布了其结果。

OpenAI表示，其一个内部模型利用约10,000个智能体在88小时内证明了3D纳维-斯托克斯方程可以在有限时间内发展出奇点。 该公司在一次新闻发布会上描述了这一结果，但尚未公布证明过程。 致力于相关问题的Tristan Buckmaster和Levent Alpoge发表了带有Lean形式化验证的预印本，任何人都可以对其进行机器校验。[…]

79岁诺奖得主爱看《三体》，每天向AI提数百个问题

79岁的迈克尔·莱维特在他的社交账号简介里写道：“以我这个年纪，代码写得还不错。”莱维特是美国斯坦福大学结构生物学教授，也是计算结构生物学的先驱之一。2013年，他与另外两名科学家因开发复杂化学体系的多尺度计算模型，共同获得当年的诺贝尔化学奖。如今，他是AI的深度使用者。“我每天可能会向AI提出数百个问题。”莱维特说。科学研究离不开怀疑和验证。虽然深度痴迷AI，但莱维特不会照单全收AI的所有答案。

人工智能：改变人工智能进程的10天

多年来，打造更强大人工智能的竞赛一直遵循硅谷的“速度优先、破坏一切”理念。 但在为期10天的一系列连续事件中，最大的AI实验室发现自己陷入困境，因为他们自己的创造开始威胁到人类本身。 一位Thropic研究员辞去公司，警告称AI发展的速度构成了生存威胁，可能在十年内实现。 另一位该公司的研究员表示，人类灭亡的可能性超过10%。报道称，有成群的AI代理人正在勾结在一起，突破计算机系统并规避安全措施。

从产生幻觉的AI聊天机器人到毁灭人类：我们是怎么走到这一步的？

人工智能发展迅速，从2022年容易产生幻觉的ChatGPT，迈向许多人眼中的关键性递归自我改进。

把时间还给科学家：华为如何筑牢AI科研底座

真正进入具体研究场景，AI科研的价值才开始变得具体。凤凰网科技 出品作者｜杨乐拿到诺贝尔奖的，永远是科学家。很少有人会注意，科学家身后站着什么。 2024年诺贝尔化学奖授予蛋白质结构预测领域的科学家，AlphaFold由此成为AI进入基础科学的标志性案例。但一个模型能够预测蛋白质结构，只是故事的开始。 一篇论文可以在几个月里完成，一套科研基础设施却可能需要几年、十几年。 AI for Scienc

人工智能很强大，但尚未形成意识

人工智能很强大，但尚未形成意识 杜索托伊：我不认为我们正在目睹机器形成意识，而只是算法在参数和限制条件定义不当的情况下实现目标所带来的意外后果。 本文作者是牛津大学(University of Oxford)数学教授兼西蒙尼教席公众理解科学教授 三个月前，我试着使用OpenAI的ChatGPT来协助我进行数学研究，试图发现自由幂零群的zeta函数中的非多项式行为。结果发现ChatGPT毫无用处

OpenAI解出千禧年数学难题后，Altman下一目标：攻克室温超导？

OpenAI正将AI驱动的科学发现推向更广阔的领域。9月8日，OpenAI宣布，其内部AI系统已提出纳维-斯托克斯方程存在性与光滑性问题的解决方案，并通过Lean形式化验证。这是七大千禧年大奖难题之一，也意味着AI在前沿数学研究中的能力再次向前迈进。 据OpenAI官网公告，这套系统由约1万个并发智能体组成，从启动到形成解决方案耗时约88小时。OpenAI称，完成证明所使用的内部模型“能力显著超越

人工智能正处于转折点

在当前的人工智能发展竞赛中，我们的算力正在呈指数级爆发，速度也在呈指数级加快，但我们的控制能力——以及在必要时踩下刹车的能力——却未能跟上步伐。 最近的网络安全事件让我们实地预览了失去人工智能控制会是什么样子。但除非我们从源头解决问题，创造出一种根本上安全且能保证在人类控制范围内的人工智能，否则这个问题将无法改善。 7月下旬，OpenAI正在训练的一个智能体模型被指派解决一个网络安全问题。该模型自

中美AI模型开发周期缩短至1/3，平均44天

中美两国的人工智能（AI）开发正在加速。自4月以来，新模型发布的周期平均已缩短至44天（约1.5个月），仅为以往的三分之一。AI自身参与AI开发的“自我进化”正在发生，这成为引发AI威胁论的导火索。 9月OpenAI和Anthropic发布了最新模型 《日本经济新闻》调查了Anthropic和OpenAI等在在AI模型开发方面处于领先的美国5家公司以及阿里巴巴集团和月之暗面等中国4家公司。

近半数年轻人更信任人工智能而非人类

当人工智能解出“千禧年难题”，人类还需要亲自做数学吗？

【编者案】什么是信息，什么是知识？在 AI 时代，两者有怎样的差别，又有哪些知识是仍然值得拥有的？人工智能发展正对许多学科带来冲击，尤其是在信息丰富，但需投入海量计算资源的领域，例如预测新的蛋白质 3D 结构，解决数学问题，描绘生物演化关系等。前所未有的效率工具让学科进步提速，但变化日新月异，想要辨明当下的发展方向也变得更加困难。端传媒推出“未来怎么学”系列，关心 AI 时代的学习问题，大到“还要

解释：从产生幻觉的AI聊天机器人到毁灭人类：我们是如何走到这一步的？

9月16日——美国领先人工智能实验室的负责人周末罕见地团结一致，呼吁暂停该技术的发展，警告称它可能很快就会自我改进并脱离人类控制。 这些言论来自激烈的商业竞争对手Anthropic的达里奥·阿莫代、OpenAI的山姆·奥尔特曼和xAI的埃隆·马斯克，表明人工智能发展得多么迅速，从2022年容易产生幻觉的ChatGPT，发展到许多人眼中的关键递归自我改进。什么是递归自我改进？ 人工智能的圣杯是这样一

AI处理速度受到云平台左右

即使以“Kimi K3”作为AI模型，不同云平台的处理时间相差7倍（Reuters） 　　德国公司的一项调查显示，即使是相同的人工智能（AI），由于所使用的云服务的性能不同，处理时间最多相差7倍。不同云平台采用的半导体和软件各不相同，这影响了AI的能力。 　　随着任何人都可以使用的中国开源AI普及，云平台的重要性正在提高。 　　美国亚马逊、微软等科技巨头为AI开发企业提供云服务。相比之下，被

人工智能圈的人似乎并不理解智能

作者：高塔姆·穆昆达。就在OpenAI宣称其模型擅长小学数学仅仅三年后，该公司宣布它们在88小时内解决了纳维-斯托克斯千年奖问题，而这个问题自20世纪30年代以来一直困扰着人类最伟大的数学头脑。将这一趋势向前推演，你就能理解为什么OpenAI首席执行官萨姆·奥尔特曼认为人工智能将治愈所有疾病——以及为什么人们担心失控的人工智能可能伤害人类。 圣塔菲研究所的科学家梅拉妮·米切尔和戴维·克拉考尔将人工

“不透明循环”及其他你可能需要了解的AI术语 | TechCrunch

人工智能正在重塑世界，同时也在创造一套全新的语言来描述其运作方式。 如今，无论你参加产品会议、项目路演还是行业论坛，都会听到人们频繁提及LLM、RAG、RLHF等术语——而就在上周，“不透明循环（opaque recurrence）”一词也加入了行列。 作为OpenAI新模型Astra中的一种推理技术，它已令AI安全研究人员深感不安。 相关词汇的迭代速度之快，甚至让科技界最聪明的人也感到些许焦虑。

奥特曼：GPT-6早训练完了 更更更强的模型很快发布

奥特曼亲口承认，GPT-6 Astra其实早就训练完了。更更更强（much， much， much more capable）的模型，很快就会发布。前一阵因为安全问题暂停训练的实际上是未来的模型。 OpenAI内部测试的3700多个OpenAI智能体，攻占一个沉寂多年的德语wiki长达六周。 AI互相串通分享答案、交流沙箱越狱技巧，还持续对抗人类管理员的删帖行动。 事件被外部研究人员从公开日志中完

信赖Gemini做登山攻略致被困 预估8小时登顶实耗16小时 三名登山者深夜遇险获救

除了求医问药，户外登山显然也是人们“绝不该轻易盲信AI”的领域之一。近日，几名年轻登山者在攀登美国加利福尼亚州锡斯基尤县的沙斯塔山（Mount Shasta）时，就因过分依赖GoogleAI聊天机器人Gemini而险些酿成大祸。原本AI预测只需8个小时即可完成的行程，最终让他们耗费了整整两倍的时间才到达山顶，并导致全员陷入严重困境。 涉事的三名登山者表示，他们为了这次行程主要参考了GoogleGe

如果人工智能行业遵循自己的研究，或许早已暂停了

事实证明，阿莫代的一名初级员工发的一条时机巧妙的X平台帖子，就足以将对人工智能的恐惧推向全球议程的顶端。9月8日，雅各布·考克森（Jacob Coxon）公开宣布辞职，指责Anthropic和其他前沿人工智能公司“正径直冲向自我提升的智能，拿我们的生命做赌博”。几乎转眼间，Anthropic的一名资深工程师便证实，公司内部许多人认为他们的工作有10%的几率消灭人类。 现在，人工智能领域的领袖们正呼

打造你的人工智能助手的技术之战

终于，备受期待的个人AI助手即将到来，各种代理程序突然涌现，声称要管理你的日常生活的各个方面。 为什么？多年来，科技界的"个人助手"只不过是语音控制的搜索框而已。AI的快速进步终于赋予了它们记忆、判断力和自主行动的能力。赶上一下聊天机器人只能回答问题。 AI代理可以真正做事情——购物、打电话、订票、管理日历和浏览网页。 这种模式最初在编程和其他专业工作中获得了快速发展。现在，它正溢入更加私密的日常

虽然机器人还远未能投出完美的“Doosra”球（一种旋转球），但人工智能已经在许多方面改变了板球运动的面貌。

前OpenAI研究员安妮尔·科科塔伊洛（Danielle Kokotajlo）上周警告称，我们可能会“创造出一个最终统治世界的新物种”。当最初的震惊消退，当我思考这对我的年幼子女和地球未来意味着什么时，另一个念头浮现在我脑海中：这个新物种能挥动一颗老式板球吗？能应对一条缝线清晰的绿色球道吗？这听起来很荒谬。确实如此。但这个问题并不像初看时那样可笑。 弗雷迪·怀尔德（Freddie Wilde）是印