作者：高塔姆·穆昆达。就在OpenAI宣称其模型擅长小学数学仅仅三年后，该公司宣布它们在88小时内解决了纳维-斯托克斯千年奖问题，而这个问题自20世纪30年代以来一直困扰着人类最伟大的数学头脑。将这一趋势向前推演，你就能理解为什么OpenAI首席执行官萨姆·奥尔特曼认为人工智能将治愈所有疾病——以及为什么人们担心失控的人工智能可能伤害人类。
圣塔菲研究所的科学家梅拉妮·米切尔和戴维·克拉考尔将人工智能的信条描述为“规模就是你所需要的一切”。这意味着训练集越大、计算机越多，人工智能就变得越好。奥尔特曼关于人工智能指数增长曲线的愿景，以及相关的希望和恐惧，同样是由一个未言明的假设所驱动的：智能就是你所需要的一切。如果你足够聪明，你就能治愈癌症——或者毁灭世界。但权力和智能的运作方式并非如此。
Anthropic PBC表示，其AI模型Claude已经编写了其工程师合并的超过80%的代码。如果这一比例达到100%，AI就将构建自己的继任者。它可能会一路狂奔，直到最终理解一切并能控制一切。这是人们恐惧之处，对某些人来说也是希望所在。AI可能创造出Anthropic首席执行官达里奥·阿莫代伊所说的“数据中心里的天才之国”。
美国曾在洛斯阿拉莫斯进行过那样的实验。它让尼尔斯·玻尔、理查德·费曼和罗伯特·奥本海默等传奇物理学家去制造原子弹。但史蒂文斯理工学院的科学和核武器历史学家亚历克斯·韦勒斯坦计算得出，洛斯阿拉莫斯仅占曼哈顿计划近20亿美元成本的4%。80%的预算流向了田纳西州和华盛顿州生产铀和钚的工厂。奥本海默在1945年的国会证词中说，没有科学家就不会有原子弹，但“如果只有科学家，也不会有原子弹。”AI已经改变了编程、数学和天气预报。它们都拥有庞大的可用训练数据池、快速反馈以及清晰的对错答案。这些让模型锚定于现实，而不会因小错误的累积而螺旋式滑向灾难。
不断的修正正是我们记住莱特兄弟的原因。1903年资金最雄厚的飞行尝试来自史密森学会会长塞缪尔·兰利，他拥有5万美元政府资金，以及一台功率是莱特兄弟手中发动机四倍的引擎。兰利设计了一架本质上稳定的飞机。但他那出色的设计却坠入了波托马克河，因为他制造的模型无法按比例放大。莱特兄弟是自行车修理工。他们没有兰利的资源，但他们知道自行车是不稳定的机器，靠骑行者不断修正才能保持直立。他们利用这一洞见，再加上对多达200种翼型进行风洞测试，击败了资金更充足的对手。
智能需要输入。输入越快、越清晰，智能就越强大。数学、编程和天气预报？没问题。金融市场也符合条件。对冲基金Two Sigma Investments夸称，其算力足以跻身全球前五大超级计算机站点，而这并非偶然。写作通不过这些测试，因此领英上充斥着大量AI垃圾内容。治愈癌症也通不过，因为它需要对活体系统进行实验，而这些系统需要数年才能作出反应。智能或许能提高你的成功率，但无法让你绕过这一限制。
智能最先被用在反馈最快、最清晰的地方。剩下的，是那些回报更低的问题。这就是为什么它的能力不太可能持续攀升。你知道得越多，想要学得更多就越难。我们在理论物理领域做过这个实验。量子力学革命后的早期，进展突飞猛进。随着时间推移，尽管仪器和工具更好了，基础性突破却变得更难。1975年的一次演讲中，诺贝尔物理学奖得主、物理学家保罗·狄拉克说：“在那个年代，任何二流物理学家都很容易做出一流的工作。自那以后，再也没有那样辉煌的时期了。如今，一流物理学家很难做出二流的工作。”研究密集型产业也呈现出同样的模式。在半导体领域，斯坦福大学经济学家尼古拉斯·布鲁姆与三位合著者发现，如今要让芯片密度翻倍，所需的研究人员数量是20世纪70年代初的18倍以上。即便是研究机构Forethought的汤姆·戴维森和汤姆·霍尔登——他们的模型认为，完全自动化的AI研究有大约60%的概率将三年的进展压缩到一年——也假设随着软件接近其极限，回报会下降。
所以，当阿莫代伊预测强大的AI可能将50到100年的生物学进展压缩到5到10年，并且癌症死亡和新发病例减少95%甚至更多似乎可能时，持怀疑态度是合理的。一位AI领袖写道，关键问题是每增加一个单位的智能能带来多少进步，以及当智能充裕时，哪些其他投入会成为制约因素。这位领袖正是阿莫代伊本人，出自他2024年的文章《慈爱机器》。在同一篇文章中，他指出当今的粒子物理学家不缺理论，但缺乏加速器数据来在理论之间做出选择，而超级智能是否会改变这一点并不清楚。其他Anthropic研究人员指出，阿姆达尔定律决定了加速一个流程的某一部分往往会转移瓶颈，而非消除瓶颈。他们甚至预测，这将适用于一个由自我改进的AI主导的世界。
这就是为什么我们都需要在投入关于AI的乌托邦式和末日式预测之前先喘口气，转而关注瓶颈。思维上的优势不是一支军队、一个电网或一条供应链，它无法一夜之间建成这些。要做到这一点，所需的时间和投资将超过谷歌母公司Alphabet Inc.、亚马逊公司、Meta Platforms Inc.和微软公司今年预计合计约7600亿美元的资本支出。奥尔特曼的曲线在数学上是真实的。也许不止于此。改变编程很重要。这不是控制论上帝的第一个迹象。