想象一下，一家制药公司花了近四年时间吹捧一种将能治愈所有疾病的突破性新药。支持这些说法的早期证据有限，仍有大量疑问，但该公司继续推进。批评和担忧虽得到回应，却并未减缓其激进的推进步伐。毕竟，投资者相信这是货真价实的东西。（或者至少是一场非常值得一赌的押注。）然后，就在这家制药公司即将揭晓其花哨新药之际，它却抛出了一个令人震惊的消息：事实证明，这种药也可能是一种毒药。因此，为了所有相关方的安全，该领域的进展需要放缓，以确保事情不会失控。这基本上就是如今人工智能领域上演的大辩论。

多年来，Anthropic 的达里奥·阿莫代伊、OpenAI 的萨姆·奥尔特曼和 xAI 的埃隆·马斯克等 AI 领袖一直向我们宣扬他们的技术将如何具有开创性，如今却表示，我们需要放缓其最先进模型的开发，否则人类将面临非常黑暗的未来。这是出于安全考虑，还是为了自保？多年来，硅谷一直在警告 AI 的弊端。但本周末出现了该行业罕见的那种协同反应。呼吁放缓 AI 发展的声音并非凭空出现。如今，该行业正面临多方面的压力。以数据中心为例，它们已引发公众愤怒。就连 AI 最大的支持者也表示，该行业需要更好地向人们推销自己。AI 的商业前景仍是一个悬而未决的问题。

Tired of hearing about its potential, investors and analysts are increasingly pressuring public companies to show their returns on these massive AI bets that are burning cash. Open-weight models, a cheaper alternative to pricey frontier models, are causing headaches for companies trying to make money from model development. Two of the biggest players in the space — Anthropic and OpenAI — are also preparing for their public debuts. That means opening up their books and themselves to even more scrutiny. And while both have previously acknowledged the risks of AI, that hasn't slowed them down. Even Amodei, one of the biggest proponents of AI safety, has a habit of simultaneously warning about the risks while advancing new models. This time, Amodei's concerns don't seem to be slowing its IPO plans.周日，我的同事凯蒂·鲁夫报道称，Anthropic已选择纳斯达克作为其公开上市的地点。控制AI的发展速度可以解决其中许多问题。让我们暂且接受AI领军企业的提议。从这个角度看，很容易理解为何制定更多防护措施能够赢得公众的好感——而这恰恰是当前明显欠缺的。在幕后，增加任何监管框架都有利于已经领先的企业。最大的参与者可以参与制定新规则，让较小的企业只能在外面观望。合规往往也是一项成本高昂的事业——律师可不便宜！——这是该领域希望迎头赶上的初创企业面临的又一道障碍。此外，放缓发展还有一个最大的优势——一个现成的借口。为什么你没有完成第四季度的目标？出于安全考虑，我们不得不采取更为审慎的方式。为什么那款新的企业产品还没有推出？

我们选择以自己觉得舒适的节奏进行创新。为什么你们的成本没有降下来？如果我们想继续致力于构建安全的模型，有些内置费用是无法削减的。这些安全顾虑已经对OpenAI产生了影响。萨姆·奥尔特曼表示，现在进行IPO是“不明智”的。学生有狗吃掉作业的借口。人工智能公司现在则要在达到分析师预期或投资者期望之前，先操心人类的命运。我并不是说人工智能发展速度不存在真正的问题。这项技术如果不受约束，似乎最终确实有可能做出一些相当可怕的事情。但如今，在筹集了数十亿美元、估值飙升之后，选择就这个问题采取协调一致的做法，是非常方便的。如果真发生了什么变化，吓得人工智能领袖们想要暂停，那又会怎样呢？

I've heard this theory floated for a while. Models can make big leaps in a short amount of time. Something could be happening behind the scenes that has them all worried. If that's the case, the most likely solution will be … more AI. But even if this is about how humans fit into that equation, the AI apocalypse debate raises another important question. One that AI giants probably won't want to answer. If the tech is so powerful that the AI giants are unsure how to handle it, why are these company leaders the right people to handle it in the first place?