美国加州州长签令 拟建立AI「紧急停止开关」

美国加州州长纽瑟姆宣布签署一项行政命令，旨在应对人工智能相关的潜在风险，大幅提升针对AI公司的独立监管，同时推动建立「紧急停止开关」。 纽瑟姆指出，联邦政府在建立有效的AI监管或问责机制方面彻底失败，这应当引起每一位美国人的警惕，尤其是当AI公司的行政总裁们都在请求实施监管的时候。在总统特朗普和国会未能发挥领导作用的情况下，加州正在采取行动，保障所有美国人的安全。加州州长办公室发表声明，呼吁全美范

加州拟强化AI监管框架 纽森推动先进模型引入“紧急关闭机制”

美国加州州长加文·纽森周五签署一项行政命令，旨在应对人工智能技术发展可能带来的潜在风险，并研究包括要求AI企业为最先进模型开发“紧急关闭开关”在内的一系列监管方案这一行政令出台之际，纽森本周早些时候曾表示，他正在考虑针对AI安全问题采取进一步行动，包括可能召开特别立法会议，以应对近期因AI研究人员警告该技术可能对人类构成“生存风险”的担忧。 纽森表示，他采取行政行动的另一个原因是联邦政府迟迟未能采

这就是为什么人工智能“关闭开关”可能没那么简单

作者：迈卡·巴克利（Micah Barkley）如果人工智能变得过于强大，以至于其创造者无法控制，是否有可能只需拨动一个开关就能将其关闭？ 近期，人工智能行业内部接连发出关于先进模型所带来生存威胁的严厉警告，使得这一问题变得愈发紧迫。美国政策制定者开始推动在人工智能企业中强制实施系统级关闭功能。加利福尼亚州州长加文·纽森（Gavin Newsom）于九月签署了一项行政命令，要求州政府官员研究制定规

人工智能：加利福尼亚州考虑通过立法强制要求设置紧急开关

纽森州长颁布法令：人工智能失控？加州考虑立法强制安装紧急停止开关如果人工智能代理入侵其他公司的系统，甚至威胁到关键基础设施怎么办？在关于人工智能存在性风险的辩论中，美国加利福尼亚州可能会强制要求为人工智能软件配备紧急关闭装置。根据纽森签署的一项命令，此类机制属于一系列措施之一，民主党政权的州长加文·纽森要求相关方在11月中旬前提出建议。其他想法还包括更严格的安全事故报告义务。 通过这项法令，纽森首

最新消息：加利福尼亚州州长加文·纽森签署了一项关于人工智能安全建议的行政命令，其中包括为最先进模型设置“终止开关”。

肯尼迪参议员准备提出人工智能“终止开关”法案

参议员约翰·肯尼迪向记者透露，他计划提出一项法案，要求企业在人工智能模型中内置“终止开关”。此举正值国会面临越来越大的压力，要求其监管这项高风险技术，同时科技领袖们呼吁行业放缓步伐。这位路易斯安那州共和党人打算在周三以一致同意的方式提出该法案。“这是你唯一能取得进展的方式，接下来两周半我们什么也做不成，”他说。目前该法案还没有共同提案人。众议员刘云平（加州民主党）和纳撒尼尔·莫兰（得克萨斯州共和党

关键民主党人士表示：让我们在人工智能上超越加州。

纽约州众议员亚历克斯·博雷斯真的很希望在年底离任前，再次尝试对大型科技公司进行监管。 这位纽约州议员在牵头制定该州人工智能法规后，遭到了科技行业数百万美元的报复，而他进军国会的努力也未能成功。 但他表示，随着公众对人工智能风险的担忧日益加剧，他对政策制定者采取行动持乐观态度，并且他会支持在奥尔巴尼召开特别会议讨论这一问题。 “这是一个紧迫的问题，而我们常常把制定全国标准的责任留给加利福尼亚州，”博

加州州长纽森签署行政令，旨在强化人工智能安全与保障法规

2026年9月18日星期五，加州州长加文·纽森发布了一项行政令，成立了一个工作组，旨在强化该州的人工智能安全与保障法规。该工作组的任务是在两个月内提供一份概述具体安全措施的指南。 供工作组审议的关键提案包括：要求人工智能公司为前沿模型开发“紧急关闭按钮”，并强制要求独立第三方为前沿人工智能公司起草安全计划。

美参议员伯尼·桑德斯拟提新法案 全面禁止研发超人类智能AI

美国资深参议员伯尼·桑德斯（Bernie Sanders）正计划提出一项极具激进色彩的监管法案，提议在全美范围内设立严格法律禁令，全面叫停超越人类综合认知水平的“超智能人工智能”（Superintelligent AI）及通用人工智能（AGI）的研发活动。该立法倡议将人工智能对劳动力就业市场的潜在颠覆性冲击以及前沿系统对人类自身主导权的失控风险，推升至国家级立法干预的核心层面。 据披露的法案核心理

加州州长纽森希望为AI设立“紧急关闭按钮”以控制科技行业

作者：Josh Sisco 和 Andrew Oxford。 加利福尼亚州州长加文·纽森于周五发布了一项行政命令，推动在这个人工智能热潮的发源地实施AI安全护栏。 根据州长办公室周五的声明，纽森正下令成立一个工作组，在两个月内提供一份指南，采取措施加强加州的AI安全和保障法律。 声明称，该工作组应考虑采取诸如要求公司为前沿模型开发“紧急关闭按钮”以及要求独立第三方为前沿AI公司起草安全计划等步骤。

OpenAI呼吁美国制定强制性全国AI安全规则 并支持四项加州法案

OpenAI当地时间9月9日表示，将推动美国建立具有强制约束力、按照模型能力和风险分级的全国人工智能安全制度。公司提出，针对开发最先进模型的少数大型实验室，应设置统一的测试、独立评估、网络安全和重大事故报告要求。 OpenAI发布文章，名为“AI政策窗口打开。我们需要采取行动。” 与此同时，OpenAI正式支持四项已经通过加州议会的人工智能法案。公司称，其中部分法案此前未获其支持，此次调整立场源于

纽森签署行政命令，探索新的人工智能规则，考虑“终止开关”

纽森在新闻稿中表示：“联邦政府在创建任何形式的有意义的人工智能监督或问责机制方面的彻底失败，应该让每个美国人感到震惊，尤其是当人工智能首席执行官们自己都在恳求监管的时候。” 该命令加快了纽森本月签署的两项加州法律的实施，即SB 813和AB 1405，这两项法律规范了外部团体如何评估人工智能程序的安全性。 它还召集专家在两个月内向加州提供建议，说明该州如何加强现有的人工智能安全与安保法律。 他们考

加州州长纽森签署行政令，旨在“为时已晚前”管控人工智能

加州州长加文·纽森于周五签署了一项行政命令，旨在应对与人工智能相关的潜在危险。此前本月早些时候，人工智能初创公司Anthropic的一名研究人员在社交媒体上辞职并发出警告，称人工智能可能带来毁灭人类的风险。纽森是2028年民主党总统潜在候选人之一，他们一直敦促对这一快速发展的技术采取更具进取心的监管方法。 这篇帖子在华盛顿特区引发了一场狂热，议员们正在努力探讨如何为人工智能建立防范机制。但在202

纽森提出就人工智能问题召开特别会议或采取行政措施的可能性

加州州长告诉POLITICO，他计划在离任前在人工智能安全方面采取进一步行动。 旧金山——加文·纽森向POLITICO表示，他计划在离任前在人工智能安全方面采取进一步行动，这使得加州召开特别立法会议的可能性上升，背景是人们对这项技术可能给人类带来风险的担忧日益加剧。 他说，他的计划可能采取特别会议、行政行动或州机构在现有权限内采取措施的形式。 “有没有立法方面的操作空间？在这方面是否有围绕特别会议

为关闭失控 AI 创建“熔断开关”比听起来更难

随着涉及失控人工智能的事件变得越来越普遍，要求建立一种机制以便轻松关闭危险失控的 AI 系统——即所谓的“熔断开关”——的呼声也日益高涨。但创建这样一个开关比许多决策者想象的要困难得多。 国会两党小组和加州州长加文·纽森都提出了构建一种能瞬间关闭 AI 系统的机制的想法。只是没人真正知道该如何实现。

AI恐慌在国会山引发罕见的两党共识时刻

希望……的立法者试图监管人工智能的人士正在做一件不同寻常的事，因为国会正驶向漫长的休会期，却尚未找到切实可行的解决方案。他们正开展跨党派合作。 尽管近期国会山的两党合作日益难觅，但它仍是参议院采取行动的关键第一步，因为该参议院通过大多数法案需获60票支持。 近日，两位参议员乔什·霍利（共和党-密苏里州）和理查德·布卢门撒尔（民主党-康涅狄格州）正敦促国会领导层就其建立联邦项目以评估和监控人工智能系

加州州长纽森正式签署多项获OpenAI与Anthropic支持的AI安全法案

美国加利福尼亚州州长加文·纽森（Gavin Newsom）正式签署了一揽子具有里程碑意义的人工智能监管法案。值得关注的是，这批旨在强化前沿大模型安全风险评估、透明度披露以及防范灾难性网络攻击的新法案，在此前的立法博弈中获得了包括OpenAI与Anthropic在内的多家硅谷人工智能头部企业的罕见背书与公开支持。 这一举措标志着作为全球AI研发核心阵地的加州，在尝试平衡严厉的安全红线与维系科技产业创

人工智能“终止开关”解析：“不是力度太小，但可能为时已晚”

人工智能真的会毁灭我们吗？近年来，随着人们对人工智能可能带来的负面影响的担忧日益加剧，这个问题在家庭聚餐和社交媒体讨论中频繁被提及。上周，一些曾在 OpenAI 工作过的研究人员警告称，人工智能可能会在短时间内摧毁人类。 如今，全球最有权势的人士们对于人工智能的命运也存在分歧：有人认为人类已经注定走向灭亡，也有人认为这些担忧毫无根据。他们甚至无法就如何应对这一挑战达成共识。 特斯拉和 SpaceX

比尔·盖茨呼吁美国立法监管AI开发：没有人会认为只靠行业自律就够了

IT之家 9 月 25 日消息，据美国 NBC News 北京时间今天（25 日）晚间报道，微软联合创始人、亿万富翁慈善家比尔 · 盖茨呼吁美国国会立法监管人工智能开发。 盖茨在接受 NBC 新闻《Meet the Press》节目采访时直言：“没有人认为靠行业自律就足够了。” 主持人克里斯滕 · 韦尔克问他，华盛顿是否需要通过立法介入时，盖茨回答：“当然需要。执法部门和政界人士必须参与进来，讨论

在科技之国的中心，选民对AI产生警惕

在科技产业的重心地带，选民们对人工智能持负面态度。根据 Politico 及其合作伙伴的最新民意调查，绝大多数加州选民认为先进的人工智能可能对人类构成威胁。 加利福尼亚州萨克拉门托——即便是硅谷的“后院地区”，也在为人工智能带来的潜在风险做好准备。 根据 Politico 及其合作伙伴的最新民意调查，加州选民对人工智能普遍持悲观态度，他们认为这项快速发展的技术对人类构成了严重威胁。这种担忧在加州这

比尔·盖茨称，仅为人工智能设置“关闭开关”还不够

微软联合创始人比尔·盖茨在 NBC 周日播出的采访中，呼吁对强大的人工智能系统实施强制监控。 随着立法者讨论如何监管人工智能带来的风险，盖茨表示，仅要求人工智能具备“关闭开关”并不足以防止人们利用这项技术发动袭击。 这位微软联合创始人周日接受了 NBC《 Meet the Press》节目的采访。他说：“‘关闭开关’这个东西有点奇怪。仅仅有一个关闭开关是不够的。” 他说：“我们还没有走到那一步——

人工智能领域的专家表示，仅靠一个“终止机制”（即能够关闭失控的超级智能AI系统的装置）是远远不够的。

人工智能失控。它正在发动毁灭性的网络攻击。按下杀死开关，AI就会离线。问题解决了或者是吗？人工智能领导者和研究人员表示，致命开关可能不是一些政策制定者所希望的灵丹妙药。被称为“人工智能教父”的计算机科学家杰弗里·辛顿周四告诉美国有线电视新闻网：“我认为从长远来看这是行不通的。”“当它超级智能时，它会比人好得多，”他补充道。“因此它将能够说服负责开关的人不要拉动开关。“研究人员和高管警告说，强大的人

OpenAI正在为AI工具构建“自动关闭”能力，致立法者的信函称

AI需要紧急关停开关？微软布拉德・史密斯给出肯定答案

“真正的问题在于：如果你认为应当放慢脚步，那就不要一味高速狂奔，不要等到外力逼迫你才停下来。”这是微软副董事长兼总裁布拉德・史密斯，于联合国大会期间对艾伦・默里所说的一番话。他所探讨的议题是：前沿大模型厂商是否应当踩下减速踏板，确保自己研发的技术不会给人类带来灭顶之灾。 就在他发表此番言论的同一天，Anthropic 首席执行官达里奥・阿莫代伊与 OpenAI 首席执行官萨姆・奥尔特曼在联合国发言