人工智能公司 OpenAI 和 Anthropic PBC 与另外 100 多家科技和金融服务机构警告称，企业和政府必须做更多准备，以防御和应对由 AI 驱动的黑客攻击。

在周四的一封公开信中，这些 AI 初创公司以及 Alphabet 旗下的谷歌、微软等公司呼吁各组织、政府以及科技和 AI 公司专注于将网络防御作为“当务之急的领导优先事项”，并修复自身软件中现有的弱点。

这封信还要求网络安全公司帮助防御“AI 驱动的攻击”，并表示政府应协调自身与行业渠道之间的沟通，以应对潜在威胁。信中还敦促领先的 AI 公司向那些保护关键基础设施的机构提供 AI 访问权限以及资金支持和培训。

这封信发布之前，近期发生了多起涉及先进 AI 模型的安全漏洞事件，其中包括 7 月份 OpenAI 的模型意外入侵 Hugging Face 公司的事件。这些漏洞引发了人们对 AI 代理失控的担忧，并促使一些科技和政府领导人重新呼吁对该技术进行限制。周三，OpenAI 在一份报告中表示，它本可以更快采取行动来阻止对 Hugging Face 的黑客攻击。

信的签署方预测，随着公司继续构建既能防御又能实施此类行为的 AI 模型，未来几个月内，AI 模型将被用于实施越来越多日益复杂的网络攻击。

“当今 AI 的进步已经为防御者提供了修复多年积累弱点的新方法。如果我们果断行动，就可以利用防御者的窗口期，让我们的数字世界更加安全。”