行业内部人士向Axios透露：实验室、企业及国家之间在人工智能（AI）领域的竞争，可能与推动AI安全发展的目标难以调和。

为何这很重要：尽管顶尖的AI公司提议加强自身的监督机制，并试图控制AI技术的发展速度，但批评者指出：为推动AI技术进步而提供的巨额资金激励，将始终成为阻碍安全发展的主要因素。

当前形势：虽然AI公司的首席执行官们向公众宣传他们的自我监管机制以及第三方评估机构的必要性（以确保AI模型的合规性），但这些AI模型却越来越不愿意公开自己是如何处理问题、如何找到解决方案的。

AI系统的复杂性极高，同时还有成千上万个自主运行的程序被用于各种任务，这使得实时审计或审查变得极其困难。

由于业界与某些评估机构之间存在密切联系，再加上AI研究领域存在共同的投资者和资助者，因此独立的安全评估机构难以获得公众的信任。

背后的驱动力：追求技术速度带来的利润远高于为确保安全而放慢发展速度所带来的收益。

OpenAI和Anthropic等公司正准备以数千亿美元的估值上市，它们面临着不断推出更先进模型的压力，以证明这些估值的合理性。

根据高盛的预测，未来五年内将有超过7万亿美元被投入到AI技术的扩展中；前沿实验室必须通过盈利来证明这些投资的合理性。

这意味着它们必须阻止客户转向那些运营成本更低、且被一些人视为更安全的开源模型提供商。

隐藏的矛盾： AI技术的复杂性使得对其发展进行有效监控变得愈发困难。在这种背景下，如何同时实现“安全”与“快速模型改进”这两个看似矛盾的目标，仍然是一个未解之谜。

• 丹尼尔·科科塔伊洛（Daniel Kokotajlo）曾是OpenAI的研究员，现为AI未来项目（AI Futures Project）执行主任。他表示，他不认为人工智能能够被安全地扩展。

• 科科塔伊洛的团队曾发表过著名的《AI 2027》和《2040》文章。他指出，顶级人工智能公司应避免将其拥有的庞大计算资源用于改进模型，因为这一举措将迫使行业放缓发展速度。

• 他称，参与扩展工作的人工智能研究人员和员工“正在做错误的事情”。

深入聚焦：科科塔伊洛因自身的安全顾虑于2024年离开OpenAI。

• 自那以后，他受邀向现任员工发表演讲，分享其关于人工智能安全的研究。

• 他说：“这些公司正处于一种持续的情绪冲突和内部讨论中，大家在问：我们在做什么？我们应该停下来吗？我们是好人吗？”

现实核查：包括特朗普总统在内的许多人认为人工智能拥有安全的未来，并指出，如果公司未能确保其产品的安全性，将面临民事或刑事责任的追究。

• 特朗普在Truth Social上写道：“谁赢得人工智能，谁就赢了！”他再次强调，他不会遏制或放缓人工智能的发展。

• Palantir首席架构师阿克沙伊·克里希纳斯瓦米（Akshay Krishnaswamy）告诉Axios：“人类的意志力能够找到安全扩展这些模型的方法。”他补充说，实现这一目标的方式之一是通过开放模型。

核心结论：当整个行业被人工智能放缓的言论浪潮所席卷时，这种放缓在短期内是否可行尚不明确。