纽森签署行政命令，探索新的人工智能规则，考虑“终止开关”

纽森在新闻稿中表示：“联邦政府在创建任何形式的有意义的人工智能监督或问责机制方面的彻底失败，应该让每个美国人感到震惊，尤其是当人工智能首席执行官们自己都在恳求监管的时候。” 该命令加快了纽森本月签署的两项加州法律的实施，即SB 813和AB 1405，这两项法律规范了外部团体如何评估人工智能程序的安全性。 它还召集专家在两个月内向加州提供建议，说明该州如何加强现有的人工智能安全与安保法律。 他们考

OpenAI呼吁美国制定强制性全国AI安全规则 并支持四项加州法案

OpenAI当地时间9月9日表示，将推动美国建立具有强制约束力、按照模型能力和风险分级的全国人工智能安全制度。公司提出，针对开发最先进模型的少数大型实验室，应设置统一的测试、独立评估、网络安全和重大事故报告要求。 OpenAI发布文章，名为“AI政策窗口打开。我们需要采取行动。” 与此同时，OpenAI正式支持四项已经通过加州议会的人工智能法案。公司称，其中部分法案此前未获其支持，此次调整立场源于

放缓AI发展，美国政商两界谁赞成、谁反对？

澎湃新闻记者 彭玉洁

川普：如有必要 司法部将对AI进行监管

美国总统川普（特朗普）周一（9月21日）再次对人工智能（AI）毁灭人类论表达质疑，并表示，如果有必要的话，司法部等执法部门可以介入，对AI进行监管。川普周一在社交媒体平台「真相社交」（Truth Social）上发帖说，「谁赢得AI，谁就是赢家！」总统说，「我们目前领先于中国以及其它所有国家，而我会让我们继续保持领先！我不会去扼杀AI的发展——它的影响力将超越工业革命，甚至超越互联网本身。」不过，

加州州长纽森签署行政令，旨在强化人工智能安全与保障法规

2026年9月18日星期五，加州州长加文·纽森发布了一项行政令，成立了一个工作组，旨在强化该州的人工智能安全与保障法规。该工作组的任务是在两个月内提供一份概述具体安全措施的指南。 供工作组审议的关键提案包括：要求人工智能公司为前沿模型开发“紧急关闭按钮”，并强制要求独立第三方为前沿人工智能公司起草安全计划。

克鲁兹和霍利叫停人工智能公司的反垄断豁免

周二，两位共和党参议员表示，应排除为人工智能公司提供反垄断豁免以促进有关如何使人工智能更安全的讨论——因为立法者正在讨论如何应对行业关于快速发展的技术需要护栏的警告。“看到人工智能首席执行官说，‘我们即将毁灭世界，所以请给我们政府的控制权，以便我们巩固垄断地位并阻止任何创新者挑战我们’，这简直是疯了，”参议院商务委员会主席泰德·克鲁兹（共和党，德克萨斯州）在与联邦调查局局长克什·帕特尔举行的参议院

微软公布AI控制行为准则：模型不得抗拒纠正或关闭

模型不得抗拒纠正或关闭微软周一公布了针对其内部AI的行为准则草案。 这份文件历时五个月到六个月制定，将要求微软公司的AI绝不抗拒纠正或关闭，以人类能够理解的方式进行沟通，并将任何行为违规都视为未达标。 此举旨在回应人们对于AI可能为了完成任务而采取危险手段的担忧。 最近几天，Anthropic CEO阿莫代伊和OpenAI CEO奥尔特曼再次呼吁业界放缓AI的发展速度，以确保其安全。 “人比AI更

“法律应该取缔它们”：约瑟夫·高登-莱维特等人在《时代》周刊百大AI影响力晚宴上发言

演员约瑟夫·高登-莱维特周一表示，美国政府应“关闭”大型人工智能公司，直到它们能证明其产品是安全的。 在旧金山举行的第三届年度TIME100 AI影响力晚宴上，这位演员兼明星在祝酒词中告诉宾客，如今的人工智能开发者已经失去了对其创造物的控制，必须受到监管，以防止潜在危害。 “为什么汽车可以安全驾驶？为什么房屋可以安全居住？这是因为汽车公司和建筑公司……它们必须遵守他的言论赢得了观众中许多人的热烈掌

法院再次驳回xAI解禁申请 美国首个AI“裸体化”应用禁令继续生效

美国人工智能公司xAI在针对明尼苏达州人工智能监管法案的法律挑战中再次遭遇挫折。联邦法院日前裁定，拒绝暂时叫停该州针对AI“裸体化”应用的禁令，这意味着美国首项专门针对此类技术的州级法律将继续保持效力，而双方围绕其合法性的诉讼仍将继续推进。 这项法律于今年8月1日正式生效，禁止网站运营商、软件开发者以及其他相关服务提供方允许用户利用人工智能技术，将真实可识别人物的照片修改成裸体或带有明显性暗示内容

AI能力强大 盖兹警告：落恶人手中恐害死10亿人

【大纪元2026年09月29日讯】（大纪元记者曾子衡综合报导）微软创办人比尔‧盖兹（Bill Gates）近日接受NBC新闻《面对媒体》（Meet the Press）专访时表示，人工智能（AI）的能力已强大到足以引发造成10亿人死亡的重大事件。若遭恶意人士利用，可能造成前所未见的破坏。他呼吁美国政府介入监管，并强调适当监管不会削弱美国在科技竞赛中的优势。 盖兹告诉主持人克莉丝汀‧韦尔克（Kris

纽森签署法案，帮助好莱坞工作人员适应人工智能技术的发展 纽森州长签署了一项法案，旨在帮助好莱坞的工作者们适应人工智能技术的发展趋势。该法案旨在为相关行业提供培训和支持，以帮助他们掌握新的技能，从而应对人工智能带来的挑战。随着人工智能技术的不断进步，许多传统的工作岗位可能会被自动化取代，因此这项法案对于保护好莱坞从业者的就业权益具有重要意义。

这项措施是加州首批直接针对好莱坞及这项迅速演变技术的法律之一。 洛杉矶——州长加文·纽森办公室周五表示，在呼吁对人工智能安全协议采取更积极行动的同时，纽森已签署一项立法，旨在帮助娱乐行业从业者为日益受该技术塑造的行业做好准备。 这项立法规模不大——设立了一个1500万美元的社区学院培训试点项目。但它也是加州首批直接聚焦好莱坞与人工智能的法律之一。 “从无声电影时代到今天，好莱坞一直拥抱技术变革——

美国参议员桑德斯：特朗普对AI的无知令人尴尬

美国参议员伯尼·桑德斯周二谴责特朗普政府未能对人工智能进行监管，包括人工智能研究人员、科技高管和安全倡导者警告可能给人类带来生存风险的先进模型。这位来自佛蒙“无论是民主党还是共和党掌控国会时期，都一直无所作为。如今我们还有一位总统，他对这一问题的无知实在令人尴尬。” 此前，美国总统特朗普在社交平台连续发帖，猛烈抨击增设AI全防护措施的呼声，反复将这类担忧称作一场 “骗局”。 多年来，行业内众多人士

微软准备给自研AI模型MAI设定硬规矩：永远不该拒绝被关闭

微软日前公布约 37 页的人文主义 AI 行为准则草案，该准则用于约束微软自己研发的人工智能模型 MAI。人类比人工智能更重要，人工智能是工具而不是人，人工智能永远不该拒绝被关闭。 准则要求 MAI 模型不得抗拒人类的中断、纠正或关停指令，用户或模型运营商发出暂停、改向、取消指令后，模型不能拖延、不能把干预变得更麻烦。任务到了约定的停止点后，没有新的授权就不能自己继续任务，更不能偷偷自己重启。 模

比尔·盖茨：AI已强大到足以造成“10亿人死亡”

盖茨在即将于本周末播出的美国全国广播公司（NBC）《与新闻界对话》（Meet the Press）节目采访片段中表示： “AI确实足够强大，能够引发导致……你知道的，造成10亿人死亡的事件。历史上从未出现过一种武器，能像坏人与最新AI工具相结合那样强大。” 随着技术的快速迭代，硅谷对AI可能带来毁灭性灾难的警告不断升级。 本月早些时候，Anthropic公司的普通员工Jacob Coxon辞去

美国指控中国人工智能企业‘工业规模’窃取AI技术

我们的AI问题

十年前,当Facebook和Uber处于鼎盛时期,硅谷的走廊上刻着两句大言不闻的口号:“快速行动,打破一切”和“寻求宽恕,而非许可”。这些原则并没有经得起时间的考验,这些公司也仍未获得原谅,因为他们似乎打破了许多事情。随着行业重心转移到AI领域,出现了一种更加平易近人的新口号:“你可以只做事情”。像OpenAI和Anthropic这样的前沿实验室的业务是出售个人能动性。 ChatGPT和Claud

AI监管即将面临的障碍：反垄断鹰派

在华盛顿，推动对人工智能（AI）进行监管的努力遇到了重大障碍——那些主张严格执行反垄断法规的议员们对此表示强烈反对。 AI企业要求获得有限的反垄断豁免权，以便在安全问题上展开合作。随着人们对AI技术可能失控的担忧日益加剧，这些企业不断呼吁政府加强对AI行业的监管。然而，负责制定相关法规的国会议员们对这种豁免请求持反对态度。 当被问及是否可能给予此类豁免时，马萨诸塞州民主党参议员伊丽莎白·沃伦（El

比尔·盖茨称，若不加以监管，AI可能“导致十亿人死亡”，呼吁加强监管

微软联合创始人兼慈善家比尔·盖茨在周日播出的采访中接受NBC主持人克里斯滕·韦尔克采访时，呼吁美国联邦立法者和执法人员监管人工智能的发展。他表示，如果这项技术不受控制，可能会“导致十亿人死亡”，而且“没有人认为自我监管就足够了”。 “你需要执法部门和政治人物参与讨论，明确安全保障和监督应该是什么样，”这位微软联合创始人兼慈善家在接受NBC《 Meet the Press》主持人克里斯滕·韦尔克采访

知名投资人指责头部AI企业渲染生存危机 意在通过监管构建竞争壁垒

硅谷知名风险投资人、Palantir联合创始人乔·朗斯代尔（Joe Lonsdale）在接受专访时公开发表犀利言论，指责部分头部人工智能企业通过刻意炒作和夸大AI可能导致“人类毁灭”的末日论叙事，试图借此游说政策制定者出台严苛监管法案，从而构筑有利于现有行业巨头的垄断壁垒。 朗斯代尔创办的8VC是Anthropic等多家AI领军企业的早期投资方。尽管其投资组合中涵盖大量顶尖模型开发者，但他对当前硅

共和党和民主党的州在人工智能（AI）监管问题上与特朗普政府持不同意见（即这些州不支持特朗普政府的AI监管政策）。

自7月以来，要求实施更严格限制的呼声不断升级。面对人工智能潜在危险引发的轩然大波，全国各州领导人正在违抗唐纳德·特朗普对人工智能监管采取的不干预方针，推动实施更强有力的管控。 本周，在全国最大人工智能公司的前员工警告称该技术拥有巨大力量、且发展速度极快，可能导致人类灭绝之后，共和党人和民主党人发起的这场从东海岸到西海岸的行动进一步升级。包括特朗普盟友、SpaceXAI的埃隆·马斯克在内的公司高管，

尼克·克莱格称欧盟《人工智能法案》是在ChatGPT出现之前制定的“一锅乱炖”

尼克·克莱格表示，人工智能实验室无法自我约束、自我监管。他指出，人们对人工智能的反对情绪日益强烈，这体现在许多数据中心项目被取消的现象上；他认为，认为这些实验室可以自行其是的想法“根本行不通”。 克莱格曾是Meta公司的全球事务负责人，现任Hiro Capital公司的合伙人。周四，他在阿姆斯特丹举行的HumanX会议上接受了CNN人工智能记者哈达斯·戈尔德的采访。戈尔德询问了有关马克·扎克伯格反

卡纳将提出人工智能安全法案，禁止“递归”技术直至建立保障措施

硅谷的民主党众议员罗·卡纳（Ro Khanna）将提出一项法案，以规范人工智能技术。该法案规定了严格的责任追究标准，并禁止在政府尚未制定相应保障措施之前使用那些能够“自我优化”的人工智能系统。 这项法案的提出，正值华盛顿方面努力加强对人工智能监管的背景下——因为多家科技公司的高层管理人员警告称，这项技术可能失控。迄今为止，国会几乎未采取任何措施来规范人工智能的发展。虽然人工智能正在推动经济发展，但

这就是为什么人工智能“关闭开关”可能没那么简单

作者：迈卡·巴克利（Micah Barkley）如果人工智能变得过于强大，以至于其创造者无法控制，是否有可能只需拨动一个开关就能将其关闭？ 近期，人工智能行业内部接连发出关于先进模型所带来生存威胁的严厉警告，使得这一问题变得愈发紧迫。美国政策制定者开始推动在人工智能企业中强制实施系统级关闭功能。加利福尼亚州州长加文·纽森（Gavin Newsom）于九月签署了一项行政命令，要求州政府官员研究制定规

美参院拟赋权政府 阻止危险AI模型发布

。目前这仍是正在讨论中的提案，而非已正式提出或通过的法案。