里德的观点是达里奥·阿莫德伊和其他前沿人工智能实验室领导者可能非常关心人工智能的安全，但“步伐前沿”的呼吁也符合他们的经济利益。

随着Anthropic和OpenAI准备上市，并试图说服投资者，他们有一天可以大规模盈利，花费数十亿美元来发展最大和最有能力的模型可能不是最好的推销方式。

即使大型语言模型进展甚微，但它们已经做得足够多了，对这些公司和经济来说，它们将带来难以置信的利润。

现在，方程式是，需要成倍增加的资金来创造更大的能力，而这只会略微提高AI产品对大多数客户的效用。

解决一个千禧年大奖问题是伟大的吹嘘的权利，并可能为科学，但它不一定转化为更好的可靠性，在完成平凡的业务任务。就目前而言，LLM的可靠性并不来自于模型本身--更大并不意味着更好，也可能永远不意味着更好--而是来自于围绕它们构建的所有软件。

下一个重大突破可能不是来自更大的模型，而是来自制造人工智能模型，这些模型在成长后可以真正学习，并在日常计算机上更有效地运行。这可能看起来有点像人工智能先驱理查德·萨顿（Richard Sutton）试图在Oak建立的一个强大的人工智能模型，它可以在20瓦的功率下运行（就像人脑一样），并不断更新其权重（也像人脑一样）。

人工智能安全专家可能更担心这些理论上的未来模型，而不是当今存在的大型模型，因为较小的、持续学习的模型更有可能逃离实验室并逃避关闭它们的企图。这是人类必须跨越的桥梁，但可能不会很快。

更高效的人工智能可以降低前沿实验室的成本。但如果客户无需利用他们投资的强大数据中心即可获得类似的功能，那么这种人工智能也可能对Anthropic和OpenAI的商业模式构成威胁。（我可以在自己的电脑上运行这种人工智能，而不用担心用完每月200美元的计划。）“你必须对大型语言模型感到好奇。当这种情况最终发生时，他们可能会面临风险，”萨顿在最近的播客中说道。“我相信他们会取得良好的成绩。他们已经跑得很好了。”据CNBC报道，英伟达首席执行官Jensen Huang的公司提供了对人工智能建设至关重要的硬件，他不同意Amedi和Altman关于需要放慢前沿步伐的观点。