AI需要紧急关停开关？微软布拉德・史密斯给出肯定答案

“真正的问题在于：如果你认为应当放慢脚步，那就不要一味高速狂奔，不要等到外力逼迫你才停下来。”这是微软副董事长兼总裁布拉德・史密斯，于联合国大会期间对艾伦・默里所说的一番话。他所探讨的议题是：前沿大模型厂商是否应当踩下减速踏板，确保自己研发的技术不会给人类带来灭顶之灾。 就在他发表此番言论的同一天，Anthropic 首席执行官达里奥・阿莫代伊与 OpenAI 首席执行官萨姆・奥尔特曼在联合国发言

Anthropic联合创始人表示，AI“紧急关闭开关”可能需要强制设置

全球最大的人工智能公司之一的联合创始人表示，可由第三方检查的人工智能“终止开关”可能需要成为企业的强制性要求。 Anthropic公司七位创始人之一的杰克·克拉克（Jack Clark）表示，在人工智能软件变得过于危险时将其完全关闭的方法，是社会“可能希望最终为此制定规则”的事情。 克拉克表示，包括Anthropic在内，“大多数实验室都有不同的方式来拔掉插头”，但他表示，政策制定者可能需要强制要

议员提议禁止‘超级智能’并把违反者关进监狱

美国参议员伯尼·桑德斯和美国众议员格雷格·卡萨尔已提出新立法，该立法将禁止任何人开发人工超级智能 —— 该法案将这项技术描述为能够 “毁灭人类或剥夺人类权力”，包括通过推翻政府。 根据《禁止人工超级智能法案》，AI领军人物若违反该法，将面临最高20年监禁。 该法案并不只是针对更强大的超级智能。 还将暂停先进AI系统的开发，立法者将这些系统归类为在特定数据阈值上训练的前沿模型。 该法律只有在政府创建

美参院拟赋权政府 阻止危险AI模型发布

。目前这仍是正在讨论中的提案，而非已正式提出或通过的法案。

美参议院酝酿AI监管立法：要求AI公司证明已采取安全措施防止伤害

要求AI公司证明已采取安全措施防止伤害据一名参议院助手和一位熟悉谈判情况的说客透露，美国参议院谈判代表正在讨论一项立法，该法案将要求AI公司证明其已采取合理预防措施，以防止其工具造成伤害。 据这名参议院助手和说客透露，参议员们正在讨论赋予美国商务部长一项权力，要求AI开发商证明其已采取合理措施防止伤害，这种要求被称为 “注意义务”。商务部长还将有权派遣政府审查人员亲自测试企业产品。该提案正在由参议

OpenAI推动强制性国家AI安全要求

刘云平：人工智能风险“已不再是科幻小说中的情节”

民主党第四号人物正敦促其党派在应对人工智能最坏风险的同时，不扼杀该技术的发展前景。 众议员泰德·刘（Ted Lieu）专注于一种噩梦般的场景：人类失去对人工智能的控制。 这位自称是科幻迷的众议院民主党人工智能委员会主席在接受《政治报》（POLITICO）采访时表示，他认为当今飞速发展的技术与《终结者》等电影之间存在令人不安的相似之处，在这些电影中，人工智能系统背叛了它们的创造者。 “那些事情不再仅

绿党在‘存在性’警告后推出新政策，提议严厉打击人工智能

iStock

佛罗里达州州长竞选转战弗吉尼亚，乔利凸显数据中心辩论

佛罗里达州尚未建有超大规模数据中心，但这类设施对其他州自然资源和社区造成的影响已引发许多居民的担忧。北弗吉尼亚州拥有250多个数据中心，其中一些距离附近住宅仅几百英尺。 住在弗吉尼亚州斯特林市距一个数据中心约150码处的格雷格·皮里奥表示，噪音已驱走了鸟类，也让邻居们不愿离开自己的家。皮里奥在乔利到访时与其交谈，他说佛罗里达州若建任何数据中心，都不应靠近居民区或学校。 “你必须把所有防护措施都落实

加州收紧对AI数据中心能源和水使用的规定

加州州长纽森已签署七项法案，旨在防止AI数据中心将公用事业成本转嫁给居民。 该一揽子法律要求加州公用事业委员会为数据中心引入新的费率分类，同时迫使数据中心为当地电网和水系统的升级付费。 该一揽子中包括的其他法案将要求拟议数据中心向地方政府披露其估计用水量，以及有关能源效率和干旱规划的信息。 AI数据中心还必须在获得精简审批程序的资格之前，满足特定的能源、水和燃料消耗要求。 与此同时，得州州长已下令

两党众议院二人组欢迎业界支持其人工智能安全提案

共和党籍的两党人工智能安全立法共同提案人表示，他与OpenAI的最高游说者进行了会面，次日该公司便表态支持该法案中的一项关键条款，而这项法案在国会山一直难以取得进展。“我们讨论了采取行动的迫切需要，”加利福尼亚州众议员杰伊·奥伯诺尔特在谈及周一与OpenAI首席全球事务官克里斯·莱汉的会面时对记者表示。“他实际上是在问自己怎样才能帮上忙。所以，我们正在努力规划一条前进的道路。”奥伯诺尔特接着说，“

英国政府拒绝为危险人工智能设立“紧急切断开关”的提议

英国政府已拒绝设立所谓“紧急切断开关”的提议，该开关原本旨在阻止失控人工智能发起的危险攻击。 内阁办公室表示，英国无法简单地将人工智能“关掉”，在英国封锁对模型的访问也无法阻止它们在其他地方被开发或滥用。 前 OpenAI 研究人员丹尼尔·科科泰洛也认为，在没有国际协议的情况下，由单一国家建立法律或技术层面的紧急切断开关是不可行的。 与此同时，多位英国贵族和议员近期在议会提出了相关立法提案，引发了

共和党人在参议院就人工智能“紧急停止开关”发生争执

参议员兰德·保罗（肯塔基州共和党人）周三阻止了参议员约翰·肯尼迪（John Kennedy）的请求通过立法，要求科技公司为超级智能人工智能开发“致命开关”，因为人们担心超级智能人工智能可能失控并对人类构成生存威胁。 保罗认为，“无限期”的政府强制实施切断开关或强大的关闭装置可能会“破坏”人工智能在美国经济中的实施，需要更仔细地研究这个问题。 最近几天，在OpenAI和Anthropic的一名研究人

两名民主党参议员将试图推动就人工智能安全进行投票

两名民主党参议员正试图在周四强行就一项法案进行表决，该法案要求人工智能公司将其新模型提交政府审批。 来自弗吉尼亚州的马克·沃纳（Mark Warner）和来自夏威夷州的布莱恩·沙茨（Brian Schatz）将提出一项法案，强制Anthropic和OpenAI等前沿企业在发布其模型之前，由国家安全局（NSA）对其进行评估。目前，特朗普政府仅建立了一个自愿性的模型测试机制。 沃纳和沙茨将试图通过一致

国会应对AI安全的窗口期正在关闭

国会在大选前就人工智能采取行动的时间窗口已基本关闭——但仍有几位参议员在努力尝试。 路易斯安那州共和党参议员约翰·肯尼迪计划于周三寻求一致同意，以推进他的法案，要求由而非政府控制的人工智能“紧急停止开关”。肯尼迪告诉Semafor，他不确定是否会有人反对，但他的想法似乎是近期唯一可行的方案。他表示，人工智能法案“将是不可能的”——“肯定是在中期选举之前；很可能是在跛脚鸭会期期间”。与此同时，密苏里

美国众议院推进“AI电费法案” 数据中心扩建成本或不得再转嫁普通家庭

随着人工智能产业高速扩张，美国围绕数据中心耗电问题的政治争论正在迅速升温。美国众议院近日以417票赞成、3票反对的压倒性结果推进一项名为《电费缴纳者保护法案》的跨党派法案，旨在防止人工智能数据中心建设所产生的电力基础设施成本最终转嫁给普通居民和中小企业。 这项法案被认为是美国联邦层面首次专门针对人工智能数据中心能源成本问题提出的立法措施。法案核心理念是要求大型人工智能数据中心承担自身带来的新增用电

鲁比奥：将与中国探讨建设AI预警热线

据凤凰卫视报道，美国国务卿鲁比奥9月22日表示，美方正在研究与中国设立一条“人工智能（AI）预警热线”，以便双方就人工智能相关的危险事件互相进行预警。鲁比奥表示，设立“人工智能预警热线”之后，一旦发生可能影响经济、社会，甚至导致国家间冲突的人工智能相关事件，美中双方就能通过这条热线联系对方并发出预警。他也表示，这一想法仍处于萌芽阶段和概念层面，近期还无法实现；美方将与中方以及其他国家探讨这一构想。

约束大型科技公司：加州立法者计划如何监管人工智能和社交媒体

随着立法会议接近尾声，加州立法者将就涉及社交媒体安全和人工智能对就业影响等问题的法案进行表决。

解析立法者正在考虑的AI监管提案

最新动态：随着安全问题的日益严重，夏皮罗州长呼吁在不妨碍AI发展的前提下进行监管；众议院通过法案以保护消费者免受AI数据中心高能耗的影响；查尔斯国王与AI领域领袖讨论安全风险；OpenAI披露6起‘令人担忧’的AI行为事件；回顾AI警告的历史；举报人的警告引发了新的AI担忧；随着Z世代直面AI对白领工作的影响，贸易学校的学生兴趣激增；密歇根小镇因拟建数据中心而爆发争议；伯尼·桑德斯和史蒂夫·班农呼

加州正式签署系列严苛新法 限制AI聊天机器人并强化未成年人网络保护

面对生成式人工智能对未成年人心理健康的潜在冲击与沉迷风险，美国加利福尼亚州州长加文·纽森（Gavin Newsom）正式签署了一组开创性的网络与AI安全法案。该揽子法规在全美范围内率先对向未成年人提供服务的AI聊天机器人设定了严格的功能红线，同时全面升级了针对社交平台算法诱导与数据收集的法定问责机制，标志着加州在保护未成年人免受高侵入性数字技术侵害方面再度树立了全美最严格的监管标杆。 近年来，随着

美国参议员考虑要求人工智能巨头承诺防止灾难

华盛顿，9月14日：一名参议院助理和一位了解谈判情况的游说人士称，美国参议院谈判代表正在讨论一项立法，该立法将要求人工智能公司证明其正在采取合理预防措施，以防其工具造成伤害。 上周，Anthropic研究员雅各布·考克森表示他已辞职，部分原因是“构建人工智能的人真心相信，它可能在本十年结束前杀死我们所有人”，这加剧了人们对人工智能潜在危害的担忧。周一，在人工智能行业一些最大公司的领导人呼吁放缓该技

澳大利亚社交媒体用户或有权关闭算法

澳大利亚议会将审议一项立法，该立法将允许社交媒体用户在TikTok、Instagram和Facebook等平台上选择退出算法，这是政府周二提出的旨在提升在线安全的新法律的一部分。 通信部长表示，科技公司“对澳大利亚人进行实时、不受监管的产品测试”已经太久了。

国会山议程：特朗普的人工智能要求让共和党人陷入僵局

共和党人正夹在人工智能行业发出的生存风险警告与本党领导人的要求之间，进退两难。副总统JD·万斯将于周二上午向众议院共和党会议发表讲话，届时特朗普政府对于这套快速发展的技术应设置何种护栏、会接受什么、不会接受什么，立场可能会更加明朗。参议院共和党人预计将在周二每周一次的非公开午餐会上讨论人工智能政策——这将是自一名行业研究员最初警告人工智能可能毁灭人类以来，他们的首次面对面会议。但这些会议也可能凸显

忧水电环境冲击 洛杉矶郡部分地区拟禁超大型资料中心

（中央社记者林宏翰洛杉矶20日专电）人工智慧发展带动大型资料中心需求，美国洛杉矶郡正在研拟法规，打算在部分地区禁设超大规模资料中心，以因应大量用电、用水及环境影响等地方冲击。 「洛杉矶每日新闻」报导，洛杉矶郡区域规划局17日对未建制地区，也就是未设置市政府、直接由郡政府管辖的地区，实施暂时禁令，暂停区域内兴建「超大规模资料中心」（hyperscale data centers）。 今年6月以来，洛