加州州长加文·纽森于周五签署了一项行政命令,旨在应对与人工智能相关的潜在危险。此前本月早些时候,人工智能初创公司Anthropic的一名研究人员在社交媒体上辞职并发出警告,称人工智能可能带来毁灭人类的风险。纽森是2028年民主党总统潜在候选人之一,他们一直敦促对这一快速发展的技术采取更具进取心的监管方法。
这篇帖子在华盛顿特区引发了一场狂热,议员们正在努力探讨如何为人工智能建立防范机制。但在2026年中期选举之前,国会似乎不太可能对人工智能的安全隐患采取任何有意义的立法行动,而总统唐纳德·特朗普迄今为止一直抵制监管呼吁。纽森周五在声明中表示:“联邦政府在建立任何形式的有意义的人工智能监管或问责制方面彻底失败,这应该让每个美国人感到警惕,尤其是当人工智能公司的首席执行官们自己都在恳求监管的时候。”
纽森接着说道:“我们不会坐等行动——我们将在为时已晚之前,加快推进实质性和负责任的人工智能监管工作。我们将以审慎但极其紧迫的速度来完成这项工作;事关重大,容不得等待或拖延。”
特朗普政府推进向沙特阿拉伯出售243亿美元F-35战机的协议旨在遏制人工智能数据中心公用事业成本的法案在参议院受阻众议院在呼吁采取紧急人工智能行动的呼吁中休会回家进行竞选活动该行政命令要求一组专家在两个月内开会并制定一份指南,以加强该州的人工智能安全与安保法律。根据纽森办公室的公告,这些改进后的法律可能包括要求独立的第三方为前沿人工智能公司编写安全计划,或者强制要求公司开发“紧急关停开关”,以便在发生紧急情况时关闭其模型。
尽管特朗普将人工智能安全担忧称为“骗局”,民主党人却基本一致呼吁加强监管。而那些怀有总统抱负的人,近几周来更是其中呼声最高的群体。
宾夕法尼亚州州长乔什·夏皮罗同样呼吁对前沿模型实施“第三方”监督并加强防护措施。亚利桑那州民主党参议员马克·凯利对Politico表示,他正在提出一项立法,设立由人工智能公司出资的基金,用于支持因该技术而失业的工人。新泽西州民主党参议员科里·布克则敦促特朗普召开国会特别会议,以应对人工智能风险。
纽森作为加利福尼亚州州长的任期将于1月4日结束,他尚未宣布竞选总统,但表示正在考虑这一可能性。在宣布行政令时,纽森盛赞了该州已生效的法律,包括他本月早些时候签署的一项法律,该法律为第三方人工智能审计机构建立了框架。
“当华盛顿放弃保护美国人的责任时,加利福尼亚正在全国最强的人工智能监管框架基础上继续推进,”纽森说。“加利福尼亚已经建立了全国范本,我们的政策应当成为全国基准。”