前Anthropic研究员雅各布·考克森在周二的X平台AMA活动中详细阐述了他与这家AI巨头的分歧。“如果竞赛不可避免，你就不应该参与，”考克森写道。考克森表示，Anthropic领导层奉行“后果主义哲学”来解释为何必须参与推动AI研究前沿，这是错误的。考克森特别点名批评了Anthropic对RSI（即递归自我改进）的推动——即AI模型自我提升并构建自身后继者的过程。“他们很大程度上引发了近期对RSI的竞赛，因为他们相信这不可避免，”考克森写道。“注意，OpenAI不得不甩掉Sora这样的一堆累赘，因为Anthropic正在直取要害。”0. 核心分歧在于竞赛的不可避免性1. 我认为领导层对中国和美国政府过于偏执。

他们不相信谈判能够实现。2. 他们很大程度上发起了最近的RSI竞赛，因为相信其……考克森的知名度在上周飙升，此前他发表了一篇解释自己从Anthropic辞职的文章，他是在离开OpenAI后加入该公司的。考克森表示，这两家实验室都没有遵循最佳路线。“他们正径直冲向自我改进的超级智能，拿我们的生命赌博，”考克森在辞职声明中写道。考克森还警告说，在内部，AI工作者担心他们正在构建的技术是否会反噬人类。“构建AI的人真诚地相信，它可能在这个十年结束前杀死我们所有人，”考克森写道。

“这不是营销噱头。”周二，考克森还表示，Anthropic的领导层“对中国和美国政府过于偏执”。他写道：“他们不相信有可能进行谈判。”Anthropic首席执行官达里奥·阿莫代伊多次对其他人工智能公司在Anthropic成为唯一放缓步伐的前沿实验室时可能如何对待安全问题表示不安。“如果我们走得太慢，我仍然相信错误的人将掌控这项技术，”阿莫代伊最近对CNN的安德森·库珀说。“而这同样会使事情出错的概率变得非常高。”除了其他公司之外，阿莫代伊还对威权政府赢得人工智能竞赛后会发生什么表示担忧。

OpenAI首席执行官萨姆·奥尔特曼最近对《时代》杂志表示，公司“落后于我们期望达到的位置”。作为重新聚焦核心使命的一部分，OpenAI关停了Sora等类似TikTok的视频应用项目。近日，人工智能领域的领军人物试图联合起来，讨论如何放缓开发节奏。上周末，阿莫代伊发表呼吁，要求Anthropic等前沿公司“放慢”推进速度，利用这段时间专注于对齐等人工智能安全问题，即确保人工智能模型遵循其指令的工作。“我们必须放慢提升人工智能模型能力的速度，”阿莫代伊写道，“进展看起来仍然会很快，我们必须明智地利用所赢得的时间。”奥尔特曼、SpaceX首席执行官埃隆·马斯克以及谷歌DeepMind创始人德米斯·哈萨比斯都对阿莫代伊的总体观点表示赞同。

AMA的其他部分则较为轻松。有用户问及考克森在Anthropic相对短暂的工作时间，他的批评者们曾试图以此质疑他的说法。“你在Anthropic最喜欢哪个月？第一个月还是第二个月？”该用户问道。考克森回答：“第二个月（总共四个月）。”