字号 ·· | 护眼
currentstatus

机密评估显示,美国国家安全局正花费数十亿美元测试人工智能模型

据两名了解机密情报评估的消息人士称,美国国家安全局向议员表示,今年将耗费纳税人数十亿美元的资金,对先进人工智能模型进行评估和测试。

消息人士称,这笔开支——明显高于此前已知的水平——使议员们认为,一套更全面的人工智能监管体系可能每年让政府耗费数百亿美元。

美国总统唐纳德·特朗普大多拒绝了对人工智能加强联邦监管的呼声,否决了国会议员和前沿实验室提出的、对相关模型施加新保障措施的监管方案。但在一系列备受关注的黑客攻击和安全事件之后,美国国家安全局的人工智能安全中心开始测试前沿模型,以识别潜在的国家安全漏洞。

这些工作的高昂成本,使有关政府应如何审查由全球一些实力最强、资源最雄厚的公司设计的人工智能模型的讨论更加紧迫。随着技术日益先进,相关支出势必进一步膨胀,这还可能加剧要求前沿实验室承担模型审查费用的呼声。

此前关于建立新的联邦人工智能监管机制的提案,估算成本要低得多。

例如,国会预算办公室估算,《人工智能安全与创新法案》是一项由两党众议员共同提出的众议院提案,旨在设立人工智能风险中心并“促进缓解这些风险”,预计每年将耗资约2000万美元。

国会预算办公室报告称,众议院另行提出的一项旨在为人工智能建立新报告和追踪制度的法案,要求未来五年共投入3600万美元。

一些科技界领袖,如亿万富豪埃隆·马斯克,建议前沿实验室在政府不监督的情况下,于各家公司模型发布前相互审查。周四,《信息报》报道,谷歌、OpenAI和Anthropic正共同制定一项计划,成立一个专注于人工智能安全的“标准机构”。但一些人工智能安全专家拒绝接受这种模式,认为它实际上是在允许企业自行监管自己。另一种方案是政府对人工智能公司征税,以支持这些安全工作的开展,既是为了确保其独立性,也是为了避免人工智能监管的财政负担主要由纳税人承担。Anthropic和OpenAI均表示,希望加强联邦监督,也可能愿意为监管付费。

两名知情人士称,目前,美国国家安全局的人工智能测试工作正由联邦国家安全预算中的机密部分提供资金。政府迄今为此投入的具体金额尚不清楚。五角大楼拒绝就国家安全局在人工智能方面的开支置评。

“出于安全原因,国防部不讨论其人工智能工具的技术架构或资源配置。”一名国防部发言人说。

国防部年度预算接近1万亿美元。部分已分配给军方的预算资金可以转用于人工智能相关支出,从而降低潜在成本。一名知情人士称,迄今为止,国家安全局最大的一笔另一项大额支出在于人才招聘。一些顶尖人工智能工程师获得的薪酬高达数亿美元,远远超过政府能够匹配的水平。美国国家安全局被普遍认为拥有政府内部最雄厚的技术专家阵容,但仍可能无法与前沿实验室抛出的巨额薪酬方案相抗衡。

“我认为,拥有内部人工智能评估能力极其重要,也很有必要。但这确实成本高昂,”人工智能倡导组织Encode的总法律顾问内森·卡尔文说。“在竞标过程中,你的竞争对手甚至包括一些对价格极不敏感的客户。”一些专家敦促议员迅速采取行动,加强对模型的第三方审计。人工智能验证与评估研究所美国政策主任纳特·珀瑟说,尽管“人们往往低估了严格测试先进人工智能系统所需的大量算力”,政府仍应投入必要资源。珀瑟还说,如果纳税人要支付大笔模型评估费用,人工智能企业也可以自行承担这笔开销。

“如果希望政府具备评估这些系统的能力,我们就需要为所需的计算资源和专业知识提供资金,”珀瑟说。“我将这些测试视为公共产品,但纳税人是否应该承担费用,也是值得合理讨论的问题。可以要求前沿开发商缴纳费用,为这些独立审计提供资金,包括支付必要的计算资源成本。”