Anthropic PBC的达里奥·阿莫代伊在一篇文章中表示，人工智能公司必须“把控前沿”，这引发了全球对其最尖端研究放缓的讨论。OpenAI的萨姆·奥尔特曼和SpaceX的埃隆·马斯克公开赞同这一观点。但别指望他们的公司会在通往“超级智能”的竞赛中猛踩刹车。从行业角度来看，利害关系实在太大。Anthropic正在筹备首次公开募股，其利润率之所以能保持高位，靠的是对未来AI能力的承诺，而不仅仅是现有现金流或其650亿美元的年化收入。该公司已选择纳斯达克上市，估值可能达到2万亿美元，种种迹象表明上市仍在推进中。芯片制造商英伟达公司可能会投入约100亿美元。

就前沿研究本身而言，阿莫代伊的言论表明，他只会在一定程度上放缓开发步伐，同时寻找其他方式来应对他自己的研究人员所引发的担忧——他们担心，随着人工智能模型变得更加强大，并且能够重新设计和改进自身，它们可能会杀死全人类。

关键在于他的措辞。给一项技术的演进“定速”，并不总是意味着真正让它慢下来，它也可以是为了在通往某个崇高目标的有管理路径中控制速度。马拉松运动员埃利乌德·基普乔格曾使用配速员。他仍然是第一个在两小时内完成这一距离的人。

平心而论，阿莫代伊确实也呼吁放慢脚步。“我们必须减缓提升AI模型能力的速度，”他写道。但这并非无限期的暂停。他描述了一种“平衡的推进速度”，并强调“进展仍会显得很快”。当Anthropic首席财务官克里希纳·拉奥在领英上发布老板的文章时，他主要谈的是“节奏”和“共同标准”。

阿莫代伊明确表示，他不希望美国公司放松到让中国竞争对手“领先”的程度。与其真正意义上减缓研发速度，Anthropic和OpenAI更可能聚焦于阿莫代伊最具体的提议：在公司内部嵌入独立评估人员，以核查前沿模型的工作是否安全进行。他自己的公司已经承诺这样做。

唐纳德·特朗普总统公开排除了对此类努力进行任何联邦协调的可能性，无视了阿莫代伊的请求，并接着表示，人工智能唯一需要的护栏是一位强大、高智商的总统。他希望美国在超级智能竞赛中击败中国，因为他认为这是“获胜”的终极途径。阿莫代伊说，把优势拱手让给“威权政权，主要是中国共产党”，将构成安全威胁。Anthropic 的领导者们坚信，超级智能系统的创建不可避免，而让“最不谨慎的参与者”抢先实现这一目标是不负责任的。正因如此，尽管阿莫代伊长期表达对安全的担忧，他仍追求递归式自我改进等高风险技术，即由人工智能系统在很大程度上创造自己的后继者。

除了中国之外，另一个让人怀疑研发会显著放缓的原因，是老派的商业逻辑。你可能会说，即便暂停打造更强大的系统，短期内也不会损害Anthropic的业务，因为许多企业并不想购买最昂贵的前沿模型。通过采取这种做法，Amodei的公司可以在训练新模型上节省数十亿美元，并继续销售其Claude模型已经开发出来的版本。

但从长远来看，其产品可能会面临商品化风险，使Claude与OpenAI的ChatGPT或谷歌的Gemini难以区分，这将威胁到Anthropic所享有的80%毛利率，据Sycomore可持续科技基金首席经理David Rainville表示，该基金管理着约8亿欧元（9.23亿美元）的全球科技股。对于即将走向公开市场的Amodei和Altman来说，这将是一个非常不乐观的前景。

一位接近Amodei的人士告诉我，他真心希望构建有益于人类的人工智能，并且现在公开讨论这些挑战将有助于社会日后更好地调整。

然而，如果Amodei将他的安全论点推向逻辑终点，他会基于毁灭人类文明的微小风险不值得冒这一合理理由，完全暂停前沿开发。那将是我的偏好。

他在选择“独立”评估机构时也可以更加审慎。阿莫代伊举了非营利研究组织METR作为例子。然而，METR与Anthropic来自同一个关系紧密的人工智能安全圈子。阿杰娅·科特拉是METR调查OpenAI智能体攻击Hugging Face事件背后的研究员，她曾在总部位于旧金山的Coefficient Giving工作超过九年。该慈善组织原名Open Philanthropy，阿莫代伊此前曾在那里担任技术顾问。

更好的审计机构选择是英国备受推崇的人工智能安全研究所，该机构自2023年以来一直在测试前沿模型，或者美国人工智能标准与创新中心。

这是AI公司的奥本海默时刻，少数高管正在帮助制定规则，以开发有史以来风险最高、最难预测的一些技术。阿莫代伊和奥尔特曼的最新表态令人宽慰，但细想一下，它们最终可能带来的改变微乎其微。阿莫代伊想争取时间，而不是放弃目标。构建超级智能系统的竞赛将继续下去。