沃尔夫：放慢人工智能创新速度，无论在实践还是政治上都困难重重，但这是正确的选择。

人工智能(AI)行业的一些领军人物正在呼吁放慢创新速度。Anthropic一名研究人员辞职时表示，“那些正在开发AI的人是真心相信，到本十年结束时，它有能力杀死我们所有人”。Anthropic的达里奥•阿莫代伊(Dario Amodei)本人也撰文称，“我们必须放慢提升AI模型能力的速度”。OpenAI的萨姆•奥尔特曼(Sam Altman)和埃隆•马斯克(Elon Musk)很快也表示支持。

我们所有人都应该支持放慢脚步。当风险尚不明朗、潜在危害可能极大，而且又很难遏制时，这样做是理性的。真正的问题不是该不该放慢，而是怎样才能有效做到这一点。这在实践和政治上都会非常困难。但我们必须开始认真思考这个问题。

阿莫代伊提出了两大担忧。第一，“大约从今年夏天起，AI的发展速度突然大幅加快，这主要得益于AI构建下一代AI的能力不断增强。这种动态被称为递归式自我改进……如果任其发展，它的发展速度可能会快到超出我们理解和控制这些系统的能力。因此，如果要继续推进，就必须极其谨慎”。