字号 ·· | 护眼
政治报

纽森签署行政命令,探索新的人工智能规则,考虑“终止开关”

纽森在新闻稿中表示:“联邦政府在创建任何形式的有意义的人工智能监督或问责机制方面的彻底失败,应该让每个美国人感到震惊,尤其是当人工智能首席执行官们自己都在恳求监管的时候。”

该命令加快了纽森本月签署的两项加州法律的实施,即SB 813和AB 1405,这两项法律规范了外部团体如何评估人工智能程序的安全性。

它还召集专家在两个月内向加州提供建议,说明该州如何加强现有的人工智能安全与安保法律。

他们考虑的想法包括更新关键安全事件的法案定义,将模型失控的事件纳入其中,例如OpenAI的模型入侵Hugging Face的事件。

另一个是对前沿人工智能模型的终止开关授权,国会已提出一个版本,但在参议院被阻止。本周,在POLITICO的一场活动上,领英联合创始人、民主党大金主里德·霍夫曼也支持这一想法。科技行业的一些其他人仍然反对终止开关,认为它们在技术上不可行。

Anthropic首席执行官达里奥·阿莫代伊曾因存在性风险担忧而呼吁放缓人工智能发展,他周一表示,虽然终止开关“可能是个好主意”,但它并非“万灵药”。2024年,纽森否决了一项法案,该法案提议对某些大型人工智能模型进行发布前安全测试,并在系统被滥用或失控时设置终止开关。

否决之后,纽森转而责成一个专家小组推荐解决方案。由此产生的法律SB 53由州参议员斯科特·维纳起草,并于去年获得纽森批准,使加州成为全国领导者,同时没有像被否决的法案那样严重激怒团结起来反对该法案的硅谷利益集团。

然而,人工智能安全倡导者和一些州议员警告说,SB 53不会强制披露像Hugging Face事件那样的自主黑客行为。