2020年3月，通用汽车（General Motors）、福特（Ford）和菲亚特克莱斯勒（Fiat Chrysler）的首席执行官们因担心自家产品可能对人类造成伤害，决定召开电话会议讨论暂时停止生产。然而，他们的律师警告称，这种做法可能违反反垄断法规。我在关于疫情经济影响的书中写道：“本应保护工人的法律——通过防止企业串通压低工资或延长工作时间——如今却可能反而危及工人的安全。”（这恰恰证明了在人工智能技术出现之前，人们还习惯于在句子中使用破折号……）尽管存在法律上的顾虑，底特律的工厂还是被迫停产了，从而避免了更多人员受到伤害。

如今，真正的危险来自那些恶意的人工智能系统；那些曾经的首席执行官们如今管理着前沿的科研实验室，而法律上的琐碎问题却阻碍了人们就人工智能安全问题进行必要的讨论。达里奥·阿莫代（Dario Amodei）提出的“有限制性的”反垄断豁免请求，引发了关于这个行业是否正在将人工智能技术用作“武器”以阻碍技术发展的争论。

这种想法实在荒谬至极。其实这些企业早就开始关注人工智能的安全问题了；没有人会在上周突然意识到“存在性风险”是一种有效的营销手段，然后决定利用这种风险来推动自身的业务发展。

不过，“AI版欧佩克”恐怕根本成不了气候。马克·扎克伯格显然无意参与其中，而残酷的竞争似乎已深植于科技高管们的基因之中——他们富得无需再靠胜利来证明什么，却仍每天醒来就想着如何摧毁对手。即便未来出现类似卡特尔的行为，其形态也更可能类似于航空业：随着基础产品日益同质化，竞争焦点转向可靠性及附加服务。（值得注意的是，航空公司会在安全性上展开竞争，因为空难对所有人都百害而无一利。）事实上，真正的欧佩克如今效力也大打折扣：它既未能阻止阿联酋退出，也未纳入全球四大石油生产国中的三个。更关键的是，人工智能正日益显现出促进竞争的特性——它大幅降低了创办几乎任何类型企业的成本。律师们最好还是别插手此事。

据报道，微软首席执行官穆斯塔法·苏莱曼公开批评了Anthropic在训练Claude时采用与意识相关的理念。