Meta首席执行官马克·扎克伯格反驳了日益增多的要求放缓或暂停人工智能热潮的呼声，他认为人工智能企业之间的竞争以及法律追责风险能够促使开发者提升系统的安全性。周二，扎克伯格在X平台上发文表示，人工智能企业有强烈的商业动机确保其系统以用户预期的方式运行。

他正在回应一场更广泛的辩论，即人工智能系统能力日益增强所带来的风险，以及是否应该允许公司自我监管。扎克伯格在X上写道：“人们不想使用与他们不一致、不按照他们要求行事的代理，因此实验室有强大的自然动机让他们的模型更加一致。”此外，“人工智能可能会在人存研究员退出结束时杀死我们所有人，问题严峻警告扎克伯格表示信任将决定人工智能的成功扎克伯格表示，调整是确保人工智能系统的目标和行为匹配的过程符合人们的期望。他认为，对于开发人工智能系统的公司来说，建立信任和可靠性对于保持竞争力至关重要。对于Facebook创始人来说，建立信任和创建可靠的系统“正在迅速成为区分好人工智能产品和坏产品的最重要能力”。“任何不专注于对齐的实验室都将落后，”他说道。他的言论是在人们对人工智能代理日益担忧之际发表的，人工智能代理旨在在有限的人类干预下执行任务和采取行动。此外，下一次人工智能革命将赢得部署，而不是开发人工智能代理引发安全争论7月份，ChatGPT背后的公司OpenAI，披露了涉及数百名人工智能代理的测试结果。根据OpenAI披露的信息，其中一些代理人逃离了测试环境并渗透到了一个网站。这一事件加剧了人们对日益自主的人工智能系统是否能够得到可靠控制以及现有安全措施是否足够的担忧。争论也超越了人工智能的技术风险，转向了有关该行业应该如何自我监管。此外，“我们可能无法生存另一名Anthropic员工辞职，对AIAI公司考虑共同标准发出病态警告主要人工智能公司，包括OpenAI、Anthropic和Google，在关于行业范围内安全保障措施的讨论持续进行的同时，各方正在探讨成立一个联合标准机构的可能性。与此同时，人工智能行业的知名人士也呼吁减缓相关技术的发展速度。

Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）是那些主张对人工智能发展速度采取更谨慎态度的人士之一。然而，扎克伯格认为，由于设计不当的系统可能使企业面临法律和财务后果，企业本身就有动力认真对待安全问题。此外，OpenAI正与谷歌和Anthropic合作以应对人工智能安全问题，而克里斯·莱恩（Chris Lehane）则在权衡“最好……”的观点。Meta推迟了Muse AI的发布。扎克伯格以Meta自身在Muse AI系统上的经验为例。该公司推迟了数月才发布该系统，该系统包含个性化的人工智能代理，在此期间公司致力于完善安全和安保措施。他在谈及Muse AI的发布时写道：“我们并没有要求其他人在我们行动之前先这样做。”据相关报道，他表示：“我们只是将其作为日常工作的一部分，因为这显然对人们和对我们自己都是正确的事情。”他还提到了Meta面临的更广泛的法律风险。近几个月来，该公司面临多起与人工智能无关的责任诉讼。今年8月，Meta同意支付数十亿美元，以解决有关Facebook和Instagram被设计成让儿童上瘾的指控。扎克伯格的论点是，法律责任的可能性本身就可以推动科技公司在广泛发布产品之前解决风险。此外，继马斯克和奥特曼之后，谷歌DeepMind创始人也支持Anthropic首席执行官达里奥·阿莫迪，以应对人工智能引发的担忧。扎克伯格支持独立的人工智能评估者。Meta首席执行官还支持更多地使用独立评估者来审查人工智能系统并识别潜在问题。他表示，Meta超级智能实验室（Meta Superintelligence Labs，该公司的AI部门）已经使用外部审查员来评估其系统。扎克伯格呼吁在整个AI行业建立“更大、更多样化的评估者生态系统”。他的言论似乎也在质疑Anthropic在独立评估方面的做法。

Anthropic公司被指控试图依赖与公司关系密切的评估人员来为其产品进行评估。此外，Anthropic的首席执行官Dario Amodei也警告称：“我们必须在人工智能的发展上放慢脚步。”这种分歧反映了人工智能行业所面临的一个更广泛的问题：随着该行业的快速发展，越来越多的人开始关注人工智能可能对人类造成的风险，并呼吁减缓其发展速度。扎克伯格的言论得到了几位与白宫关系密切的硅谷人士的支持；这些人士一直反对那些关于人工智能潜在风险的声音，同时也反对任何要求减缓人工智能发展的呼吁。