科技行业应该如何处理人工智能安全话题？越来越多的高级管理人员开始关注这个问题，因为围绕“拥抱脸”事件（OpenAI代理黑客攻击了几家不同的公司）等事件是否表明人工智能正处于让我们的世界陷入混乱的边缘的争论愈演愈烈。
最近几周，著名实验室呼吁放慢人工智能的进步。最引人注目的是，首席执行官达里奥·阿莫迪（Dario Amedei）写了一篇近4，000字的文章，阐述了为什么应该减速人工智能开发，以便部署足够的护栏。除其他外，该计划还涉及公司和政府在安全部署方面的国际合作战略。竞争对手的人工智能高管--例如OpenAI的Sam Altman和xAI的Elon Musk --都支持了Amedei的计划。
这篇文章在整个科技行业引发了进一步的讨论，尽管并非所有人都同意阿莫德伊关于全球协调行动的呼吁。事实上，许多人似乎认为政府监督根本不需要发挥作用。
这场辩论的最新参与者包括Meta首席执行官马克·扎克伯格，他本周在X上分享了他对此事的看法。
“在我看来，信任与协同性正迅速成为区分人工智能代理（agents）和模型的关键因素。”扎克伯格透露，由于对安全性的担忧，他的公司推迟了该人工智能模型的发布。“Meta将Muse模型的发布时间推迟了几个月，以专注于安全性和防护措施，”扎克伯格说。“我们并没有要求其他公司也这样做；我们只是将这作为日常工作的组成部分来执行，因为这对用户和我们自己来说显然是正确的做法。”扎克伯格虽然支持阿莫迪（Amodei）的部分计划，但他似乎认为政府的干预是不必要的；他认为，行业内部存在的自然竞争机制会促使各公司自觉重视安全性问题。最终，那些致力于开发不会引发混乱的人工智能模型的公司才会取得成功。这一观点与扎克伯格上个月发表的文章相符——他在文章中主张在必要时与政府进行有限的合作，但同时强调美国的竞争力才是实现繁荣科技未来的关键。总体而言，这似乎也是许多其他科技企业高管的共同立场。
另一位发声的高管是Reddit联合创始人亚历克西斯·奥哈尼安（Alexis Ohanian）。他在周三告诉美国消费者新闻与商业频道（CNBC），他认为科技行业在向公众解释人工智能风险时，总体上“缺乏敏感度”。不过，与扎克伯格一样，奥哈尼安似乎也表达了希望企业能够自行解决问题的乐观态度。谷歌DeepMind联合创始人谢恩·雷格（Shane Legg）也分享了他的看法。“我们现在正处于一个能力飞速发展的时期，”雷格说，“但我们不能让能力跑在安全前面。”他补充道：“我们需要真正深入探讨其中的细节，以及这在实践中将如何运作。”
尽管大型实验室呼吁公私合作，但一些支持监管的声音似乎也对让企业自行制定规则持相对满意的态度。事实上，本周一个关注度稍低但同样引人入胜的故事是，《The Information》报道称，OpenAI、Anthropic和其他主要人工智能公司正在合作创建一个人工智能标准组织——据一家媒体描述，这是一个私人的“自律机构”。此前曾就建立一个类似的联邦主导组织进行过讨论。然而，特朗普白宫——其中包含声音响亮的人工智能支持者，并主要推动不受监管的科技商业环境（该政府甚至试图强行阻止各州政府出台自己的AI法律）——并未采取任何行动。该政府的“AI沙皇”、科技界资深人士大卫·萨克斯（David Sacks）曾表示，AI监管应留给开发它的公司。
与白宫类似，国会的重要成员似乎同样对接受阿莫迪（Amodei）关于监管其公司的提议缺乏兴趣。就在Anthropic首席执行官的文章发表后不久，众议院议长迈克·约翰逊（Mike Johnson）回应了关于灾难性AI进步的担忧：“你们不会都在10年内死去的。”
除非自愿承诺，私人组织会让该行业不受监管，并且自然会赋予负责创建该行业的公司一定的权力和影响力。这导致了另一种持续存在的说法，即该行业对监管的呼吁实际上是一种“监管捕获”的策略。根据这一论点，已经在行业中享有重要地位的强大公司可能会利用监管策略来压制规模较小、资源较少的公司或使其处于不利地位，从而抑制其竞争。这不需要涉及实际的监管，但可能涉及自愿的行业标准，尽管如此，这些标准仍会给实力较弱的公司带来压力。
中国政府许多知名人士都表达了同样的立场。在阿莫德伊本周呼吁“在前沿踱步”后，中国外交部郭家坤指责美国人利用“散布恐惧”来破坏全球人工智能治理的发展，而中国官方报纸的一篇专栏文章则称阿莫德伊的言论直接来自“冷战剧本”。重组公司与中国开展业务的方式--这是阿莫迪在他的文章中呼吁的事情之一--自然可能是美国公司将事情转向对自己有利的机会。阿莫迪甚至承认这就是目标。他在文章中写道：“如果我们执行得很好，我相信它们将减缓中国的进步，从而在未来3-5年内大幅扩大美国的领先地位--这是人工智能在地缘政治上变得最重要的窗口。”
然而，不仅中国认为美国的大型人工智能实验室正在试图操纵竞争结果以利于自己。加拿大人工智能公司 Cohere 的首席执行官艾丹·戈麦斯（Aidan Gomez）最近指责这些公司组成了一个“垄断联盟”，他在一篇博客中写道：“人工智能领域需要相应的监管机制（‘护栏’）。但问题的核心并不在于是否需要这些监管机制，而在于谁来制定这些规则、谁能够参与其中，以及这些规则究竟在保护谁的利益。”正如戈麦斯所指出的那样，人工智能安全问题具有高度政治性；安全标准的定义方式以及制定这些标准的主体，最终将决定谁能在下一阶段的人工智能竞争中占据优势，谁会被甩在后面。