美议员提出重磅AI监管法案：拟禁止“自我递归进化”AI 设立专门监管机构

美国加州民主党众议员罗·卡纳即将向国会提交一项全面人工智能监管法案，希望对前沿AI技术建立迄今最严格的联邦监管框架。该提案不仅要求实施严格责任制度，还计划禁止具备“递归自我改进”能力的人工智能系统投入使用，直到联邦政府建立完整安全保障体系为止。 这项法案被命名为《人类控制人工智能法案》（Human Control Over AI Act）。法案出台背景正值美国科技界和政策界对于先进人工智能潜在风险

美参议员伯尼·桑德斯拟提新法案 全面禁止研发超人类智能AI

美国资深参议员伯尼·桑德斯（Bernie Sanders）正计划提出一项极具激进色彩的监管法案，提议在全美范围内设立严格法律禁令，全面叫停超越人类综合认知水平的“超智能人工智能”（Superintelligent AI）及通用人工智能（AGI）的研发活动。该立法倡议将人工智能对劳动力就业市场的潜在颠覆性冲击以及前沿系统对人类自身主导权的失控风险，推升至国家级立法干预的核心层面。 据披露的法案核心理

议员提议禁止‘超级智能’并把违反者关进监狱

美国参议员伯尼·桑德斯和美国众议员格雷格·卡萨尔已提出新立法，该立法将禁止任何人开发人工超级智能 —— 该法案将这项技术描述为能够 “毁灭人类或剥夺人类权力”，包括通过推翻政府。 根据《禁止人工超级智能法案》，AI领军人物若违反该法，将面临最高20年监禁。 该法案并不只是针对更强大的超级智能。 还将暂停先进AI系统的开发，立法者将这些系统归类为在特定数据阈值上训练的前沿模型。 该法律只有在政府创建

AI恐慌在国会山引发罕见的两党共识时刻

希望……的立法者试图监管人工智能的人士正在做一件不同寻常的事，因为国会正驶向漫长的休会期，却尚未找到切实可行的解决方案。他们正开展跨党派合作。 尽管近期国会山的两党合作日益难觅，但它仍是参议院采取行动的关键第一步，因为该参议院通过大多数法案需获60票支持。 近日，两位参议员乔什·霍利（共和党-密苏里州）和理查德·布卢门撒尔（民主党-康涅狄格州）正敦促国会领导层就其建立联邦项目以评估和监控人工智能系

美参院拟赋权政府 阻止危险AI模型发布

。目前这仍是正在讨论中的提案，而非已正式提出或通过的法案。

卡纳将提出人工智能安全法案，禁止“递归”技术直至建立保障措施

硅谷的民主党众议员罗·卡纳（Ro Khanna）将提出一项法案，以规范人工智能技术。该法案规定了严格的责任追究标准，并禁止在政府尚未制定相应保障措施之前使用那些能够“自我优化”的人工智能系统。 这项法案的提出，正值华盛顿方面努力加强对人工智能监管的背景下——因为多家科技公司的高层管理人员警告称，这项技术可能失控。迄今为止，国会几乎未采取任何措施来规范人工智能的发展。虽然人工智能正在推动经济发展，但

美国众议院推进“AI电费法案” 数据中心扩建成本或不得再转嫁普通家庭

随着人工智能产业高速扩张，美国围绕数据中心耗电问题的政治争论正在迅速升温。美国众议院近日以417票赞成、3票反对的压倒性结果推进一项名为《电费缴纳者保护法案》的跨党派法案，旨在防止人工智能数据中心建设所产生的电力基础设施成本最终转嫁给普通居民和中小企业。 这项法案被认为是美国联邦层面首次专门针对人工智能数据中心能源成本问题提出的立法措施。法案核心理念是要求大型人工智能数据中心承担自身带来的新增用电

OpenAI正在为AI工具构建“自动关闭”能力，致立法者的信函称

美国加州州长签令 拟建立AI「紧急停止开关」

美国加州州长纽瑟姆宣布签署一项行政命令，旨在应对人工智能相关的潜在风险，大幅提升针对AI公司的独立监管，同时推动建立「紧急停止开关」。 纽瑟姆指出，联邦政府在建立有效的AI监管或问责机制方面彻底失败，这应当引起每一位美国人的警惕，尤其是当AI公司的行政总裁们都在请求实施监管的时候。在总统特朗普和国会未能发挥领导作用的情况下，加州正在采取行动，保障所有美国人的安全。加州州长办公室发表声明，呼吁全美范

OpenAI呼吁美国制定强制性全国AI安全规则 并支持四项加州法案

OpenAI当地时间9月9日表示，将推动美国建立具有强制约束力、按照模型能力和风险分级的全国人工智能安全制度。公司提出，针对开发最先进模型的少数大型实验室，应设置统一的测试、独立评估、网络安全和重大事故报告要求。 OpenAI发布文章，名为“AI政策窗口打开。我们需要采取行动。” 与此同时，OpenAI正式支持四项已经通过加州议会的人工智能法案。公司称，其中部分法案此前未获其支持，此次调整立场源于

人工智能领域的专家表示，人工智能系统具备自我监管的能力；美国众议院通过了针对俄罗斯的制裁法案：今日新闻综述

AI高管呼吁对自家公司技术进行自我监管。特朗普对美联储加息决定作出回应。洛杉矶新闻界哀悼直升机坠毁事故中的遇难者。以下是今日要闻。AI巨头呼吁制定自己的规则。近日，围绕人工智能及其发展速度的担忧急剧升温。如今，包括Anthropic首席执行官达里奥·阿莫代伊、OpenAI首席执行官萨姆·奥尔特曼、埃隆·马斯克以及谷歌DeepMind联合创始人德米斯·哈萨比斯在内的科技高管，正逐渐形成共识：他们的行

顶尖人工智能公司正在寻求监管。以下是国会可能不会给予的原因。

随着人工智能游说阵营开始接受强制性独立审计，批评者警告称存在利益冲突和“监管俘获”的风险。OpenAI周二表态支持一项日益流行的提案，旨在应对人工智能的危险——该提案要求顶尖AI开发商嵌入独立监督机构，以确保其产品安全。 这一想法仍面临障碍，包括一位关键议员的抱怨，称独立监督机构权力太弱，无法施加有意义的改变。 其他批评者，包括风险投资家、学者以及唐纳德·特朗普总统的前人工智能事务负责人，对一些监

两党众议院二人组欢迎业界支持其人工智能安全提案

共和党籍的两党人工智能安全立法共同提案人表示，他与OpenAI的最高游说者进行了会面，次日该公司便表态支持该法案中的一项关键条款，而这项法案在国会山一直难以取得进展。“我们讨论了采取行动的迫切需要，”加利福尼亚州众议员杰伊·奥伯诺尔特在谈及周一与OpenAI首席全球事务官克里斯·莱汉的会面时对记者表示。 “他实际上是在问自己怎样才能帮上忙。所以，我们正在努力规划一条前进的道路。”奥伯诺尔特接着说，

Anthropic、OpenAI、谷歌秘密磋商筹建AI安全标准机构

据知情人士透露，早在 Anthropic 首席执行官达里奥・阿莫代伊上周六呼吁 AI 企业协同开展技术测试与审计之前，Anthropic、OpenAI 与谷歌就已经展开磋商，计划携手成立一家 AI 行业标准机构。 知情人士称，OpenAI 首席执行官山姆・奥特曼本周早些时候在公司全员员工大会上表示，他支持设立 AI 行业测试与审计机构，但他认为，主要 AI 实验室必须在美国政府不提供支持的前提下，

英国绿党提出五点计划以加强人工智能监管

提案包括设立全球人工智能监督机构、禁止致命性自主武器

肯尼迪参议员准备提出人工智能“终止开关”法案

参议员约翰·肯尼迪向记者透露，他计划提出一项法案，要求企业在人工智能模型中内置“终止开关”。此举正值国会面临越来越大的压力，要求其监管这项高风险技术，同时科技领袖们呼吁行业放缓步伐。这位路易斯安那州共和党人打算在周三以一致同意的方式提出该法案。“这是你唯一能取得进展的方式，接下来两周半我们什么也做不成，”他说。 目前该法案还没有共同提案人。众议员刘云平（加州民主党）和纳撒尼尔·莫兰（得克萨斯州共和

美国AI监管呼声日益高涨

对人工智能监管日益高涨的呼声，看来将在未来数日占据主导，因为华盛顿开始着手处理这一问题，而前沿实验室也在考虑提议设立自己的监管机构。美国众议院本周将审议一项监管数据中心建设的法案，与此同时，民主党议员正在传阅一封他们自己的信，呼吁白宫在即将与中国领导人举行峰会之前，牵头推动全球努力制定人工智能规则。 特朗普则淡化了这项技术带来的风险，而国会对于是否以及如何监管人工智能几乎没有共识。与此同时，据《T

中美应管控人工智能风险，同时维持战略竞争

中美应管控人工智能风险，同时维持战略竞争 孙昱：美国和中国作为全球领先的两个AI大国，即便在技术、贸易和军事领域继续竞争，也应该防止AI失控式发展。 在美国对华政策制定颇有影响的众议员Ro Khanna近日呼吁两国就人工智能安全建立合作监管机制，称两国在日益激烈的战略竞争中仍应寻找共同利益，以避免AI无序发展带来灾难性风险。 Khanna周一在纽约亚洲协会发表演讲时表示，美国总统特朗普和中国国

美国AI巨头提议开发减速，欧洲同行和政界并不认同

OpenAI 支持美国国会关于人工智能和生物武器威胁的法案

9月15日：据公司发言人周二表示，OpenAI正在支持美国国会的一系列跨党派法案，该公司称这些法案将有助于防止人工智能模型加速生物武器和合成病毒的威胁。 该发言人表示，ChatGPT的开发者正在支持《生物数据网络法案》、《人工智能就绪生物数据标准法案》和《规模生物学法案》。此前《政客》杂志曾报道了这些支持。 该发言人表示，OpenAI还支持《前沿法案》的一项关键条款，该条款要求领先的人工智

桑德斯推动对美国关键行业实施‘死刑’，或让外国对手占得先机

佛蒙特州参议员伯尼·桑德斯和得克萨斯州众议员格雷格·卡萨尔周四提出立法，旨在对美国人工智能开发者实施‘企业死刑’并处以最高20年监禁——批评人士警告，此举将在全球人工智能军备竞赛中把关键优势拱手让给北京和莫斯科。 《禁止超级人工智能法案》将暂时中止先进人工智能的开发，并设立一个内阁级联邦机构，授权其监督对不合规技术系统的物理销毁，将先进人工智能的创造比作非法研发核武器。该法案明确针对能够达到或超越

美参议院酝酿AI监管立法：要求AI公司证明已采取安全措施防止伤害

要求AI公司证明已采取安全措施防止伤害据一名参议院助手和一位熟悉谈判情况的说客透露，美国参议院谈判代表正在讨论一项立法，该法案将要求AI公司证明其已采取合理预防措施，以防止其工具造成伤害。 据这名参议院助手和说客透露，参议员们正在讨论赋予美国商务部长一项权力，要求AI开发商证明其已采取合理措施防止伤害，这种要求被称为 “注意义务”。商务部长还将有权派遣政府审查人员亲自测试企业产品。该提案正在由参议

伯尼·桑德斯就禁止人工智能超级智能的提案接受BBC采访

美国参议员伯尼·桑德斯最近表示，他打算提出立法禁止人工智能超级智能，并提议设立一种主权财富基金，美国将在人工智能公司中持有50%的股份。 桑德斯是独立人士，但经常与民主党议员同事合作，该法案需要获得国会两院（目前由共和党控制）通过，并由总统唐纳德·特朗普签署才能成为法律。 特朗普一直倡导美国政府投资人工智能公司，以“与美国公众建立几乎是一种伙伴关系”。 这位美国参议员在接受BBC《新闻之夜》采访时

消息称扎克伯格与特朗普通话 反对建立全国AI监管机构

据《商业内幕》报道，Meta CEO马克·扎克伯格(Mark Zuckerberg)上个月在一次此前未被报道的电话中，向美国总统特朗普表达了对建立全国性AI监管机构计划的担忧。此举标志着这位全球顶尖科技企业高管参与到了一场充满争议的白宫AI政策辩论中。 扎克伯格与特朗普在美国建立AI监管机构的计划，由诺贝尔奖得主、谷歌DeepMind科学家德米斯·哈萨比斯(Demis Hassabis)推动，并得