字号 ·· | 护眼
The Intercept

五角大楼要求OpenAI提供几乎不会拒绝的人工智能

根据The Intercept获得的文件,美国国防部要求OpenAI为美军提供一种特殊版本的人工智能技术,该技术旨在尽可能少地拒绝五角大楼的请求。

这一要求是在通过《信息自由法》诉讼中获得的文件中被披露的,该诉讼旨在获取军方与人工智能公司秘密交易的信息。

OpenAI及其竞争对手谷歌、xAI和Anthropic在2025年都同意开发其最先进人工智能的军事化原型,以协助军队在物流、情报决策和一般“作战”等方面的应用。

今年早些时候,五角大楼试图扩大这些协议的范围,并将其部署到美国机密计算机网络中,这导致与Anthropic就该公司能否以及如何限制其技术的军事用途发生了高调的对峙。

文件中包含的“最低拒绝率”条款出现在一份更新的合同(版本“P00003”)中,该合同扩展了去年夏天价值高达2亿美元的两年期原型协议。

OpenAI和五角大楼否认同意这样的“最低拒绝率”措辞,声称提供给The Intercept的“P00003”文件是草稿而非最终版本。

OpenAI发言人Nate Evans表示:“OpenAI从未同意包含‘最低拒绝率’要求的合同语言。该语言未出现在我们已签署的合同中。”

Evans还表示,收到的文件似乎是国防部在提供反馈之前提出的早期草稿,OpenAI拒绝了该语言,国防部同意删除,最终签署的协议中不包含该内容。

The Intercept的FOIA请求专门要求提供最终签署的合同文件,并要求五角大楼排除任何草稿材料。通过诉讼发布的文件中没有一份被标记为草稿。

当被要求确认包含“最低拒绝率”条款的文件是否为最终协议时,代表五角大楼的司法部律师表示这确实是签署并执行的合同版本。

然而,数小时后,在The Intercept联系OpenAI后,五角大楼的律师又表示之前的确认无效,称国防部需要更多时间调查此事。

随后,负责研究和工程的副部长特别助理Trevor Tiedeman联系了The Intercept,他暗示包含“最低拒绝率”条款的文件可能是草稿副本,但表示不确定该文件具体是什么,为何根据FOIA请求和诉讼提供给The Intercept,以及国防部为何突然改变立场。

Tiedeman表示将提供文件被错误标记的完整说明,但随后停止了回应。OpenAI同样没有提供完整合同。

几天后,代表五角大楼的司法部律师进一步改口,称该文件“不是该文件的最终版本”,并称“正确的文件”将在稍后分享。

国防部发言人Jacob Bliss后来表示,“最低拒绝率”一词并未出现在任何有效的国防部与OpenAI的合同中。

合同文件中描述OpenAI义务的部分包含了“最低拒绝率”的措辞,但未说明这些“国家安全问题集”可能涉及什么,也未描述五角大楼希望OpenAI技术最低限度拒绝的请求类型。

然而,一个有助于监视、瞄准和杀人过程的大型语言模型需要大幅放宽安全措施才能对任何军事有用。

OpenAI的旗舰LLM包含内置护栏,通常基于安全原因拒绝某些查询。

专家Heidy Khlaaf表示,“最低拒绝率”可能指的是模型几乎没有或没有安全措施。

无论最终合同语言如何,专家们担心企业政策已经在战斗中发挥作用。

今年五角大楼与Anthropic之间的公开争执涉及科技公司是否以及如何限制战场使用的问题。

Anthropic声称其军事协议在国防部拒绝禁止将其技术用于自主武器系统和国内监视后破裂。

特朗普政府随后将Anthropic指定为供应链风险并禁止政府使用,但该指定上月被联邦法官推翻。

尽管存在这些紧张关系,OpenAI还是在2月27日签署了最新的五角大楼协议,允许其服务在美国军方的机密网络上使用。

该机密部署合同更新包含相同的“OpenAI任务模型的测试、评估和优化”标题,但其文本与之前的版本不同,完全被涂黑。

OpenAI声称其在自主杀戮和监视美国人方面获得了红线,但该协议的起草方式最终允许政府认为合法的任何用途。