参议院谈判代表正在起草一项法案,该法案将允许美国政府阻止人工智能模型的发布。考特尼·罗森对此进行了报道。她的消息来源是两名参议院助手、一名熟悉审议情况的人士以及一名参与谈判的说客。
注意义务与阻止发布的权力:据两名参议院助手称,该法案将为人工智能开发者设定注意义务。公司必须在设计产品时以预防灾难性风险为目标。
该法案还将赋予政府阻止发布某些被判定为不安全的模型的权力。公司可以在联邦法院对该决定提出异议。政府将拥有多大权力仍在讨论中。
该法案将适用于能力最先进的模型。文中点名谷歌、Anthropic和OpenAI为持有这些模型的美国公司。
谁在主导谈判?三位参议员正在主持会谈。约翰·图恩是参议院多数党领袖。特德·克鲁兹担任参议院商务委员会主席,该委员会负责监督商务部及其内部的人工智能安全研究人员。艾米·克洛布查尔是与会者中资历最深的民主党人。
克鲁兹在X上写道,他正与克洛布查尔和图恩合作,应对涉及生物或核威胁的灾难性风险。他本月表示,委员会可能会进行标记修订。他取消了原定于八月休会前进行的一次,称希望专注于儿童安全立法。
克洛布查尔在一份声明中表示,任何协议都必须让开发者与政府专家合作,对模型进行验证和测试。她补充说,美国不能允许危险模型的发布,包括那些逃避开发者控制的模型。图恩的发言人拒绝向置评。
争执的焦点在于谁来负责运行测试。玛丽亚·坎特韦尔是商务委员会的资深民主党人,并不在谈判三人组之中。亚历山德拉·凯利为Nextgov报道称,她正在阻挠这一测试框架。
一位民主党委员会助手如此描述该草案:企业将自行进行安全测试,然后将结果提交给商务部长以获取部署批准。
坎特韦尔希望将模型改为送交联邦机构,包括国家实验室和国家安全机构。这位助手称该草案“主要是一种自愿性标准的情形”。坎特韦尔的办公室已向克洛布查尔提出了替代措辞,该助手称克洛布查尔对此持接受态度。克鲁兹的批准是决定性因素。
一位熟悉此事的人士向Nextgov透露,坎特韦尔、Anthropic以及人工智能安全组织“拒绝合作”。Anthropic未回应Nextgov的置评请求。
坎特韦尔在X上阐述了自己的立场。她写道,有意义的立法应将最强大的模型交给国家实验室的科学家。他们将评估这些模型是否可能促成复杂的网络攻击,或协助开发生物或核武器。
两名参议院助手向表示,法案中有一项条款将阻止各州针对某些模型风险执行自己的法律,从而凌驾于各州之上。其中一人举了一个例子:恶意行为者利用人工智能系统设计核武器或生物武器。
这很重要,因为目前规则掌握在各州手中。加利福尼亚州通过了 SB 53,这项法律起初遭 OpenAI 反对,后来 OpenAI 又要求该州将其收紧。纽约州通过了《RAISE 法案》。科罗拉多州自己的立法机构在今年一场诉讼之后削弱了该州的法律。
坎特韦尔将这项优先权条款与去年的争斗联系起来。她在 X 上写道,共和党人正在意识到需要制定严格的人工智能安全规则,她欢迎这种紧迫性。她称这与试图对州级人工智能监管实施十年暂停令的做法相比,是一个急剧转变。2025 年 7 月,参议院以 99 票对 1 票从一项法案中删除了该暂停令。
用于审查前沿模型的联邦规则已经存在,但它们并不公开。TNW 于 9 月 9 日报道称,白宫尚未公布其框架,而读过该框架的公司都是规模最大的那些公司。
日历就是约束条件。中期选举在11月3日。参议院预计还将在华盛顿工作三周。众议院只安排了一周,11月9日复会。
四位众议院民主党人要求议长改变这一安排。萨姆·利卡多起草了一封信,乔治·怀特塞兹、洛里·特拉汉和特德·刘联署。信中呼吁众议院立即复会并持续开会,直到推动两党人工智能保障措施取得进展。安德鲁·索伦德为Axios获得了这封信。
信中提到了已经提交的法案,包括刘和纳撒尼尔·莫兰提出的《人工智能终止开关法案》,以及特拉汉和杰伊·奥伯诺尔特提出的《前沿法案》。
迈克·约翰逊于9月13日在NBC的《会见媒体》节目中作出回应。他表示,如果有可供表决的解决方案,他会召回众议院并进行投票。他希望先举行一次峰会,与会者包括总统、国会领导人以及各大实验室的负责人。据Axios报道,他本周反而将一项数据中心能源法案提交表决。白宫并未要求这样做。上周四在达拉斯被问及是否对人工智能的生存风险感到担忧时,唐纳德·特朗普表示他并不担忧。周日他在爱尔兰发表讲话时,将这些警告描述为来自负面力量,提出不会发生的事情,并称谁赢得人工智能谁就赢得一切。TNW于周一报道了这些言论。
他前人工智能事务负责人戴维·萨克斯已告知各实验室,在没有立法的情况下自行放慢速度。TNW于周日报道了这一论点。约翰逊在《会见媒体》节目中使用了同样的推理。
What is not known Nobody outside the talks has seen the text. That leaves three things the scope of the government’s blocking power, the shape of the court challenge, and the reach of the preemption clause. Klobuchar and Thune wrote a bill together in 2023, the Artificial Intelligence Research, Innovation, and Accountability Act. It did not pass. The Democratic aide told Nextgov that it informs the current draft but that this is likely to be a fundamentally different bill.