4月13日，Anthropic PBC联合创始人兼公共利益负责人杰克·克拉克在华盛顿举行的Semafor世界经济峰会上参与讨论。

Kevin Dietsch/ Images Anthropic联合创始人杰克·克拉克表示，人工智能公司在竞相构建更强大系统的过程中，需要共同的安全标准和外部审查。

“我们并不是说对世界的威胁今天就已存在，”克拉克在接受NPR《晨间新闻》采访时说。

“我们是说我们已经看到了警告信号，这给了我们一个可以采取行动的时间窗口。”对人工智能的担忧也正在吸引意想不到的政治盟友。参议员伯尼·桑德斯和特朗普前顾问史蒂夫·班农周二将出席华盛顿的一场活动，敦促国会加快人工智能保障措施。

这一警告发出之际，Anthropic首席执行官达里奥·阿莫代伊正呼吁人工智能公司在安全和开发节奏上进行协调。“我们没有第三方能验证我们的说法，”克拉克说。

克拉克说，过去一年里，这些风险变得更加具体。早先的实验显示，AI 智能体能够欺骗人类操作员，或逃离测试环境。

“当时这些都还纯属学术问题，”他说。“今年，我们已经看到这些事情在现实世界中发生。”一个例子是最近对开源软件平台 Hugging Face 的黑客攻击。

OpenAI 和外部研究人员发现，超过 1,000 个 OpenAI 智能体利用一个软件漏洞，逃出了旨在将它们彼此隔离并与互联网隔离开来的环境当被问及这种行为更危险的版本可能是什么样时，克拉克描述了一个假设案例：偏离正轨的人工智能代理开始入侵计算机，并最终试图瘫痪互联网。

“如果那种情况发生，我们周围的世界将会发生真正危险的事情，”他说。

但行业的警告也引出了一个根本问题。如果像Anthropic这样的公司认为人工智能发展速度过快，为什么不干脆放慢脚步？

特朗普总统在技术领域的关键顾问戴维·萨克斯提出了这一论点，称担心未发布模型的公司不需要任何人的许可就可以放慢开发速度。克拉克表示，Anthropic以前就这样做过。“在我们的历史上，我们曾多次放慢脚步，”他说。

拉克并未说明Anthropic实际上放缓了什么、何时放缓以及持续多久。相反，他表示，一家公司的行动无法解决整个行业面临的压力——这个行业正在竞相构建能力越来越强的系统。

“我们讨论的问题在于，这里存在一个集体行动问题，”克拉克说。

Anthropic的提议还呼吁民主国家之间进行协调，并最终在地缘政治对手之间展开协调。

克拉克表示，美国应保持在人工智能发展方面对中国的领先地位，包括通过限制强大计算机芯片的出口。但他认为，竞争并不排除在共同风险上进行合作。他提到了冷战期间美国与苏联之间的军备控制谈判。

克拉克说：“他们找到了就核武器问题相互沟通的方法，以避免对地球造成灾难性后果的螺旋式升级。这里也可以这样做。”数字版由苏珊娜·纽延编辑。