加州州长告诉POLITICO，他计划在离任前在人工智能安全方面采取进一步行动。

旧金山——加文·纽森向POLITICO表示，他计划在离任前在人工智能安全方面采取进一步行动，这使得加州召开特别立法会议的可能性上升，背景是人们对这项技术可能给人类带来风险的担忧日益加剧。

他说，他的计划可能采取特别会议、行政行动或州机构在现有权限内采取措施的形式。

“有没有立法方面的操作空间？在这方面是否有围绕特别会议的框架？是否有行政行动？”纽森说，并补充说他也在研究“现有机构基于法律、规则和法规所拥有的监督权限”。

“我们正在全方位审视，”这位州长说。“我们正在研究未来几周——几天、几周和几个月内能做些什么。”这位加州州长、可能的总统候选人形容，在周三晚间的一通电话中，他乘坐的汽车里散落着数十页聚焦该问题的想法和备忘录。

“在几周前那起Hugging Face事件之后，我们就开始着手这件事了，”纽森说，他指的是7月那起失控的OpenAI程序执行自主网络攻击的事件。他说，他一直在与州立法领导人、技术安全倡导者以及代表人工智能实验室的人士等讨论，以制定应对方案。

加州作为全球科技和人工智能产业的中心，其任何进一步举措都可能在全国甚至全球产生重大影响。

纽森表示，他之所以感到有必要采取行动，部分原因是“特朗普政府倾向于什么都不做”。

他的这番言论正值业界——以及华盛顿——就如何监管该行业存在严重分歧之际，而总统唐纳德·特朗普一再对人工智能相关担忧不予理会。纽森在加利福尼亚州表示：“我们意识到需要继续迭代，也必须继续引领。”纽森去年签署了加州首开全美先河的AI透明度与事件报告法，随即引发了一场跨州的仿效立法浪潮，纽约州和伊利诺伊州等纷纷跟进。上周，他又签署了两项AI安全法案，以监管OpenAI和Anthropic等机构目前呼吁实施的那类第三方安全检查。

他将这些新法律描述为“迈向人们所倡导的独立第三方审查和安全标准的第一步”。纽森此前曾否决该州AI透明度法案的一个早期版本，该版本要求对部分AI程序进行发布前安全检查。该法案还要求企业对部分AI程序具备关停能力，这与近期自主网络攻击事件后重新燃起的关于“终止开关”故障安全机制的争论相呼应。

在采访中，他将去年最终签署的那项经过删减的法律称为“下限，而非上限”，并表示他上周签署的法案代表着一种努力，“在此基础上继续推进，开始搭建下一步的框架，并随着新信息的出现、新情况的发生来组织下一步行动”。对纽森而言，政治处境尤为棘手。他一直将加州树立为AI监管的国家领导者，主张他去年斡旋达成的安全法在应对灾难性事件与保护关键产业之间取得了审慎平衡。

如果纽森在预计以人工智能议题为主导的选举周期中竞选总统，这一记录将受到严格审视。他将面临质疑：在他领导下，加州是否采取了足够措施来限制本土产业带来的风险——而他一直将该产业誉为经济引擎。

在加州之外，形势正在迅速变化。华盛顿仍在忙于回应上周一位人工智能举报人的直言警告：硅谷认为技术引发的末日灾难存在真实可能性。

纽森上周告诉记者，他清楚这一危险，称他“多年来一直听到”举报人提出的担忧，同时补充说，Hugging Face遭受的攻击应该“把任何人都吓个半死”。