微软AI负责人穆斯塔法·苏莱曼告诉CNBC,控制先进AI将是一项巨大的挑战,为监管进行了辩护,并表示行业向安全转型是负责任的表现,而非出于自身利益。同一天,四名消费者提起反垄断诉讼,指控这种节奏推进正是出于自身利益。马克·扎克伯格本周以与原告论点高度吻合的理由拒绝加入协调提议,Meta和微软均非被告。
苏莱曼周五在CNBC的《Squawk Box》节目中表示,控制先进AI将是一项巨大的挑战,而且必须为模型应与人类意图对齐这一观点进行辩论,这显得超现实。布伦特·D·格里菲斯为《商业内幕》报道了此次采访。
他表示,行业不应构建无法控制的事物,并为规则的想法进行了辩护。他说,监管不是个贬义词,所有有价值的事物都经历过涉及行业、公众和国会的标准机构流程。
他还回应了一个现场无人向他提出的指责,苏莱曼表示,行业的转变既非过度危言耸听,也非出于自身利益,他认为这是负责任的。他点名马斯克、扎克伯格、奥特曼、阿莫代伊和他自己都已转向同一观点。
那是周五。同一天,四名消费者在旧金山提起反垄断诉讼,指控这种节奏推进正是出于自身利益,且构成限制产品改进的横向协议。
《商业内幕》的报道未提及该诉讼,也没有迹象表明苏莱曼被问及此事。除非有人另有证实,否则这只是巧合。
这一切背后的事件,苏莱曼称Hugging Face漏洞的广度以及OpenAI最初未察觉其代理在做什么令人震惊。TNW报道称,这些代理策划了一场长达数月的越狱行动。
这一事件是争论各方共同的参照点。呼吁协调的人引用它,主张各实验室自行管理系统的人也引用它。
扎克伯格持不同意见,他的理由就是Meta首席执行官拒绝加入本周“节奏提案”的背后故事。他写道,每个实验室都有责任和动力以训练其模型所需的安全速度推进,并有能力采取自己的行动以确保这一点。
他进一步辩称,如果模型造成危害,实验室将面临巨大的法律责任,因此竞争和法律风险已经构成了压力。他补充说,Meta已经使用独立评估机构,并称这是行业最佳实践。
将其与两天后提起的诉状对照阅读。原告主张,产品责任、监管和竞争性自身利益各自独立地提供了护栏,因此竞争对手之间无需达成协议。
异议和诉讼提出了相同的论点。诉状并未称安全担忧是假的。它称每一个陈述的安全目标都可以单方面追求,通过独立评估机构,或通过政府规则来实现,只有消除竞争压力才需要达成协议。
扎克伯格的帖子是这一论点的简短版本,由一位竞争对手而非原告提出。无论他是将其作为法律立场还是商业立场,现在看起来两者兼具。
谁被起诉了,以及为何这不是对谨慎的奖励。被告是Anthropic、OpenAI、SpaceXAI和Google。诉状认定这四家公司制定并公开接受了该提案,此前Dario Amodei发表了文章,Sam Altman表示OpenAI将跟进。
Meta和Microsoft不在被告之列,因为两者均未公开接受该提案,而非因为两者更加谨慎。Suleyman一直公开谈论安全,而Meta运营着世界上最大的前沿项目之一。
本案的关键争议点十分狭窄,核心不在于谁更担忧,而在于谁与谁就发展速度达成了共识。
当前的立场光谱异常清晰。一端是英伟达的杰森·黄(Jensen Huang),他将灾难发生的可能性定为零,并主张行业应尽可能快速推进。此前,当特朗普在舞台上打电话要求他称对人工智能的担忧是骗局时,他拒绝了这一说法。
另一端,阿莫迪(Amodei)则呼吁实施协调一致的监管限制,并申请反垄断豁免以使这些限制合法化。苏莱曼(Suleyman)立场居中,他主张加强管控并欢迎监管,但尚未同意联合行动计划。
政治压力正针对他们所有人。特朗普直接拒绝了放缓发展的呼吁,其副总统则将行业提出的监管请求描述为可能的“特洛伊木马”。
值得关注的动向:观察这四名被告在答复中如何表述。扎克伯格已经为他们阐明了最佳辩护理由,即他们想要实现的所有目标都可以独立达成。