人工智能在过去五年中引发的争议比大多数事物都多。自2022年可广泛使用的生成式人工智能问世以来，机构、大学、学生、学者、活动人士、认知专家、公共政策制定者以及公众都对其使用的伦理问题意见分歧。截至本月初，甚至连人工智能公司的创始人也采取了同样的立场。Anthropic首席执行官达里奥·阿莫代伊发表了一篇文章，呼吁人工智能公司放缓其最先进模型的开发，因为目前的安全保障措施无法跟上。阿莫代伊的文章发表后不久，他的立场得到了OpenAI的萨姆·奥尔特曼、xAI的埃隆·马斯克、谷歌DeepMind的德米斯·哈萨比斯以及微软的萨提亚·纳德拉的赞同。此外，萨姆·奥尔特曼表示，OpenAI不会在2026年上市，因为仍需进一步的安全进展。虽然表面上看这似乎是集体良知的一次进步，但问题远比这更加多面和层次分明——使行业和预期受众产生了分歧。

产品看看每个人工智能巨头销售的产品。阿莫代伊、奥尔特曼、马斯克和哈萨比斯销售模型，而纳德拉销售这些模型运行的云服务。两个阵营都建议放缓。另一方面，英伟达创始人、总裁兼首席执行官黄仁勋销售的是这些公司在构建任何东西之前所购买的芯片。黄仁勋不建议放缓，反而断言人工智能不需要新的立法，因为市场力量可以推动公司走向安全创新，无需监管。马克·扎克伯格的公司免费提供其模型，他警告说该提议可能使公司面临更大的法律风险。

这些具有争议的建议背后，共同的驱动力是利益。一些公司会从发展放缓中获益，而另一些公司则通过加快步伐赚取更多利润。英伟达之所以能够维持高价，得益于这些人工智能公司之间激烈的竞争，因为它们都害怕落后于对手。如果这种竞争压力减小，企业可能就不愿再为英伟达的芯片支付高额溢价。因此，黄仁勋对该提案的反对，既可能反映了他真实的担忧，也可能出于英伟达的商业利益考量。

白宫所使用的措辞：在人工智能领域，反垄断法禁止这些公司举行私下会议来决定它们可以做什么和不可以做什么。此举旨在防止它们协调发展步伐并进行不正当竞争。然而，一些人工智能公司现在站出来辩称，为了技术安全，它们应该被允许在反垄断法之外开展合作。黄仁勋和白宫人工智能负责人大卫·萨克斯（David Sacks）对这一请求持批评态度，因为这可能会削弱竞争，并增加这些人工智能公司对其竞争对手的影响力。萨克斯还质疑了那些负责“独立”评估人工智能安全的非营利性评估机构的独立性。本质上，他认为让一家公司去审查另一家公司，这怎么能算公平呢？

难以推行的条款：阿莫代（Amodei）的提案将禁止中国获取最强大的人工智能芯片和先进的半导体制造设备，并防止走私以及远程访问国外的计算能力。中国外交部反驳了这一提案，称这些警告是旨在拖慢中国技术进步的恐吓策略，是冷战思维的重演。阿莫代确实承认，中国是他计划中最棘手的难题。尽管该提案声称具有种种优势，但它实际上赋予了美国企业对中国企业的制衡手段。

一个先例，以及为何它并不适用。AI协调的支持者将其与2008年金融危机后对银行的监管相类比。巴塞尔III是在一场重大金融危机已经发生之后才出台的。在损害发生之前对AI进行监管，可以代表一种预防未来风险的真诚努力，而不是反映AI公司的商业利益。然而，这两种情况之间存在一个重要差异。银行监管是由外部监管机构强制实施的，而拟议中的AI监管则将涉及相互竞争的公司彼此协调。

这场辩论实际上关乎什么。在这场辩论开始之前，研究人员就已经对AI模型的能力发出警告。OpenAI在一起安全事件后放缓了其领先系统的开发。阿莫代伊和奥尔特曼都声称，Anthropic和OpenAI将力求引入独立评估者——这种做法在“卡特尔”中并不存在。这两种担忧可以并存：公司可能既真正担心与AI相关的风险，同时也在追求自身的商业利益。更相关的问题仍然是，拟议的解决方案是否充分解决了它旨在解决的问题。五家美国大型公司之间达成的一项协议，由它们资助的评估者来监督，将不适用于中国等国际竞争对手，并且需要获得现有竞争法的豁免。这一解决方案似乎更能反映AI行业的结构和利益，而不是它旨在应对的风险的性质。空置的席位围绕人工智能发展速度和监管的许多辩论，在缺乏包括阿拉伯世界在内的其他地区有效参与的情况下进行。普华永道估计，到2050年，全球人工智能基础设施投资将达到31.6万亿美元。能够提供大量廉价、可靠且低碳电力的国家，将处于吸引此类投资的有利地位。因此，人工智能基础设施所需的大量能源、土地和投资，可能会为能够提供这些资源的国家带来相当大的议价能力。

这些国家可以寻求在决定人工智能公司在其管辖范围内的运营条件方面发挥更大的作用。这可能包括协商由谁来评估这些人工智能系统、评估应如何进行，以及当自主系统造成损害时由谁承担法律责任。这意味着辩论的焦点已超越了是否应放缓人工智能发展，转而关注谁有权对其发展做出决策，以及其他国家是否应该接受在其他地方做出的决定。