凯特琳·华马尼（KAITLYN HUAMANI）、芭芭拉·奥图泰（BARBARA ORTUTAY）报道：曾经只是技术研究人员遥不可及的宏愿，如今，人工智能模型自主学习以变得更高效、更强大的前景似乎正日益接近现实。

随着技术的进步，开发人员表示，人工智能正趋向于“递归自我改进”（RSI），即人工智能模型能够找到自我完善的方法并构建其继任版本。科技公司高管们表示，这可能会带来科学和医学领域的进步，但也伴随着风险。

这种技术最终将走向何方的种种不确定性，是人们日益担忧人工智能摆脱人类控制以及可能对人类构成威胁的核心原因，这也促使几位人工智能巨头在上周末联合呼吁放缓该技术的发展步伐。

本周，Anthropic公司详细介绍了其模型Claude如何帮助公司开发下一代更智能的版本。Claude目前主导了Anthropic 26%的模型研发工作，公司称这意味着它可以在人类监督下，“从高层级的提示词开始端到端地”完成大部分既定任务。这些模型目前尚未完全实现自主运行——至少现在还没有。以下是关于递归自我改进的一些关键点。

领先的人工智能公司对递归自我改进有着不同的定义。一些公司将其定义为人工智能对模型改进提供任何反馈的过程，而另一些公司则将其定义为人工智能完全自主地朝着该目标努力。

非营利组织“生命未来研究所”（Future of Life Institute）总裁兼首席执行官、加州大学圣克鲁兹分校物理学教授安东尼·阿吉雷（Anthony Aguirre）表示，自主递归自我改进本质上是指人工智能能够通过设计系统的下一个版本来改进自身，然后再设计出再下一个版本，以此类推。

他说：“这里真正重要的一点是，随着人工智能参与度越来越高，它的速度会越来越快，因为人工智能的运行速度远比人类快得多。”

康奈尔大学计算机科学助理教授约翰· Thickstun 表示，人们对 RSI（Reinforcement Learning through Self-Improvement，即通过自我强化学习实现模型改进的技术）的担忧主要源于人们担心这一过程会催生出一种失控的超级智能。不过他认为，从更实际的角度来看，人工智能的发展过程其实一直都伴随着某种形式的“递归式自我改进”（即模型通过自身的学习不断优化自身性能）。

“多年来，我们一直在使用这些人工智能模型来辅助开发下一代模型；人们利用旧版本的模型来编写代码，而这些旧模型又会生成新的模型。”他说。

Thickstun 指出，尽管像 OpenAI 的联合创始人安德烈·卡尔帕西（Andrei Karpathy）这样的顶尖人工智能研究者多年来一直在尝试让人工智能模型自我训练并改进新的系统，但这些努力带来的只是小幅度的进步，而非真正的突破性进展。

不过阿吉雷（Aguirre）认为，如今的人工智能公司已经更接近于实现这种突破性的进步了。他说：“从 Anthropic 的相关数据可以看出，越来越多的研究工作是由人工智能系统完成的，它们的自主性也在不断提高。而这种进步的最终结果，我认为非常可怕——这可能是人类历史上最糟糕的决策。”Anthropic 最近的公开声明为公众和其他研究机构提供了有关 RSI 技术进展的线索，同时也促使其他公司开始分享类似的评估指标。不过，该公司并未明确说明自己距离实现完全自主的模型改进还有多远。

OpenAI（ChatGPT 的开发公司）本月宣布，他们已经开发出一种自动化“研究助理”系统，这种系统能够在人类指导下完成特定的研究任务（这些任务通常需要熟练的研究人员花费几天时间来完成）。该公司表示，他们的目标是在 2028 年 3 之前打造出完全自动化的人工智能“研究员”。

该公司在公告中表示，虽然递归自我改进（RSI）有助于使模型的行为与人类的价值观和意图保持一致，但这并不意味着“快速实现RSI是我们应该追求的结果”。该公司在一篇博文中写道：“是否以及如何推进，必须取决于我们保持人类控制的能力，以及在充分知情的情况下，就其益处和风险所做出的民主选择。”

埃隆·马斯克似乎更急于推进这一进程。他在三月份表示，对于xAI的Grok模型而言，“人类在模型改进过程中的参与度正逐渐降低”，并且“每一个后续模型都是由前一个模型构建的”，但他同时澄清，这一过程尚未完全自动化。他补充说，这一目标可能会在今年年底前实现，“最迟不会晚于”2027年。微软和其他一些领先的AI公司似乎采取了不同的方针。

微软AI首席执行官穆斯塔法·苏莱曼（Mustafa Suleyman）曾表示，公司正朝着“人文主义超级智能”的方向发展，即服务于人类和整个人类社会的先进AI能力。苏莱曼在2025年的一篇文章中指出，这并不意味着“一个拥有高度自主权、无边无际且不受限制的实体”，而是指“经过精心校准、情境化且在一定限度内”的AI。各实验室面临的一个关键挑战——也是自该技术诞生以来就一直存在的问题——是确保其安全措施能够随着模型能力的提升而同步发展。

科技行业内部对于是否应为了安全而协调放缓AI发展步伐已出现分歧，并非AI领域的所有主要参与者都明确表态了他们未来在RSI方面的路径。

安索弗(Antropic)一直是呼吁节控的主要声音之一，该公司表示，如果其全球竞争对手也能以“可核实的方式”做出同样的决定，便将减慢或暂时暂停其开发工作。

本月，OpenAI明确表示，它尚不知道如何“安全地实现完全对齐的完全递归自改进(RSI)”，并补充称该公司“不能假设对齐和安全方面的进展能够始终保持同步”。它还指出，更强大的系统可能会变得更难以监控，但追求RSI仍然是它认为有价值的目标，因为“自动化的AI研究员也可以是自动化的安全或对齐研究员”。