关于人工智能发展程度与速度的争论，让科技公司高管们陷入了严重的两难境地。他们急于传达对该技术潜在危险的担忧，并提出了包括放缓其发展步伐在内的各种补救方案。但在投入数千亿美元资金后，他们又试图安抚公众情绪，同时避免惊动投资者和客户。上周，Anthropic PBC研究员雅各布·考克森辞职后，这场争论进一步升温。关于人工智能发展程度与速度的争论，让科技公司高管们陷入了严重的两难境地。他们急于传达对该技术潜在危险的担忧，并提出了包括放缓其发展步伐在内的各种补救方案。

但在向人工智能领域投入了数千亿美元之后，他们正试图安抚公众情绪，同时又不想惊吓到投资者和客户。上周，这场辩论进一步升温：Anthropic PBC研究员雅各布·考克森辞职，并警告称，构建人工智能的研究人员“真诚地相信，这项技术可能在本十年结束前杀死我们所有人”。他的担忧得到了Anthropic其他人员的公开呼应，其中包括对齐科学负责人埃文·胡宾格，他表示自己认为这项技术在未来十年内导致人类灭绝的概率超过10%。阅读 人类学工作者因人工智能公司“拿我们的生命赌博”而辞职唐纳德·特朗普总统发表意见，拒绝人工智能护栏的必要性，并将矛头指向人类学首席执行官达里奥·阿莫代伊，后者在周六的一篇博客文章中主张，人工智能能力的进步速度超过了保障措施所能跟上的速度。阿莫代伊提议加强独立监督以及公司和政府之间的协调。在周一的一篇Truth Social帖子中，特朗普将选民对人工智能数据中心的反弹以及对前沿模型日益增长的担忧归咎于一个“病态的阴谋”，并补充说“唯一对此感到高兴的是中国。”以下是业界最杰出的高管们对人工智能应该走向何方的看法，他在X上的一篇帖子中写道，“达里奥是对的。”“我同意达里奥的观点，我们需要放慢前沿的步伐。

这是最近几周我们在OpenAI讨论的一个主要话题。承诺让独立评估者拥有类似员工的访问权限是个好主意，我们也会这样做。我们很快会有更多分享，”他在X上的一篇帖子中写道。

“一种在明确保留现有商业优势的同时拖慢所有人步伐的机制，并不会让AI更安全，”他在一篇批评普遍放缓AI发展提案的博客文章中说道。戈麦斯表示，护栏是必要的，但他主张AI发展应以社会能够跟上的负责任步伐推进。“任何对超级智能的追求都必须基于一个核心原则：如果我们构建的AI不能造福人类并处于人类控制之下，那就不值得追求，”他在X上的一篇帖子中写道。

“现在已经很清楚，对齐至关重要，不可能在少数前沿实验室的闭门造车中解决，”Delangue写道，同时引用了Amodei在X上的帖子。Delangue宣布了Hugging Face的开放对齐倡议，并表示该公司正在寻求参与Amodei刚刚承诺Anthropic加入的“嵌入式评估者”项目。“控制接下来的发展节奏并不能保障已经存在的东西，”他在X上的一篇帖子中说。Kurtz认为，网络安全行业不应试图减缓AI发展，而应专注于构建能够跟上日益自主的AI系统的防御能力，包括独立测试、更强的安全控制以及对高影响决策的人工监督。“我个人更担心的是少数实验室或个人控制着如此强大的东西，”他上周在[此处缺失内容]上说。

扎克伯格认为，当人工智能的使用权被广泛分布，而不是集中在少数几家公司手中时，人工智能会更安全。他批评了一些AI实验室，这些实验室开发出越来越先进的模型，却选择不将其发布，称这种做法“相当危险”，不过他没有点名任何公司。