作者：Josh Sisco 和 Andrew Oxford。

加利福尼亚州州长加文·纽森于周五发布了一项行政命令，推动在这个人工智能热潮的发源地实施AI安全护栏。

根据州长办公室周五的声明，纽森正下令成立一个工作组，在两个月内提供一份指南，采取措施加强加州的AI安全和保障法律。

声明称，该工作组应考虑采取诸如要求公司为前沿模型开发“紧急关闭按钮”以及要求独立第三方为前沿AI公司起草安全计划等步骤。

纽森表示：“我们不会等待行动——我们要在为时已晚之前，加快对实质性和负责任的AI监管工作。

我们将以深思熟虑但紧迫的速度来做这件事；事关重大，不容等待或延误。”纽森的办公室并未立即回应关于谁将成为该小组成员的置评请求。

过去几周，人们对AI安全的担忧有所加剧，此前由于员工对安全问题的担忧而引发高调辞职，包括OpenAI的萨姆·奥特曼和Anthropic PBC的达里奥·阿莫代伊在内的多位首席执行官呼吁加强监管。

Anthropic和OpenAI均总部位于加利福尼亚州，纽森一直鼓励过去几年的AI热潮，因为它提振了该州的经济。

今年早些时候，他还大力宣传了加州政府与Anthropic之间的伙伴关系，旨在扩大Claude在州政府机构中的应用。