美国AI巨头提议开发减速，欧洲同行和政界并不认同

“人工智能欧佩克”不太可能

2020年3月，通用汽车（General Motors）、福特（Ford）和菲亚特克莱斯勒（Fiat Chrysler）的首席执行官们因担心自家产品可能对人类造成伤害，决定召开电话会议讨论暂时停止生产。然而，他们的律师警告称，这种做法可能违反反垄断法规。我在关于疫情经济影响的书中写道：“本应保护工人的法律——通过防止企业串通压低工资或延长工作时间——如今却可能反而危及工人的安全。” （这恰恰证明了

The Information报道，Palantir与英伟达因数据担忧限制AI模型使用

9月14日：据The Information周一报道，包括Palantir Technologies、英伟达和博思艾伦咨询公司在内的多家大型科技公司可能限制或停止使用先进AI模型，除非Anthropic和OpenAI保证不会滥用其知识产权。 与此同时，根据该报道援引知情人士的说法，微软正利用这些担忧，通过推销隔离云环境和自家AI产品来吸引客户。 Anthropic首席执行官达里奥·阿莫代伊周六呼吁

随着对人工智能的担忧加剧，OpenAI、Anthropic和谷歌正在商讨建立一个标准机构。

全球最大的AI公司正致力于创建一个新的行业标准机构，OpenAI于周二表示，此举正值人工智能风险引发的担忧日益加剧，要求加强监管和推动技术更安全发展的压力不断增大。 全球最大的AI公司正在着手创建一个标准机构，ChatGPT的开发者OpenAI于周二表示，眼下人们对AI危险的担忧日益上升，并且面临创造更安全版本技术的压力。 阅读更多扎克伯格在AI宣言中设想为每个人实现“超级智能” OpenAI表示

人工智能领域的专家表示，人工智能系统具备自我监管的能力；美国众议院通过了针对俄罗斯的制裁法案：今日新闻综述

AI高管呼吁对自家公司技术进行自我监管。特朗普对美联储加息决定作出回应。洛杉矶新闻界哀悼直升机坠毁事故中的遇难者。以下是今日要闻。AI巨头呼吁制定自己的规则。近日，围绕人工智能及其发展速度的担忧急剧升温。如今，包括Anthropic首席执行官达里奥·阿莫代伊、OpenAI首席执行官萨姆·奥尔特曼、埃隆·马斯克以及谷歌DeepMind联合创始人德米斯·哈萨比斯在内的科技高管，正逐渐形成共识：他们的行

人工智能倡导团体发起州级政策推动行动

旨在推动建立更强有力的人工智能安全护栏的非营利组织“负责任创新美国人”（ARI）周四发起了一项新的州级倡议，专注于在全美50个州倡导人工智能政策。 该努力旨在推动制定政策，以应对来自尖端人工智能模型的风险，以及对工人、儿童和家庭的威胁。“为了成功通过安全护栏……”

为了AI，美国大开减排倒车

美国AI产业正在改变的不只是芯片、云计算和资本开支，它甚至开始改变美国的气候政策。 与此同时，把剩下的联邦电力行业温室气体排放标准也全部废除，并且从法律上确立一条原则——《清洁空气法》第111条本来就不应该被用来对电厂温室气体排放实施这种监管。这实际上是想让未来的民主党政府也无法恢复对传统能源的监管。 这是特朗普第二任期以来最重要的气候政策逆转之一，而AI成了对他最有利的借口。 负责人Lee Ze

华盛顿方面拒绝给予人工智能企业制定安全标准的豁免权。

Anthropic首席执行官达里奥·阿莫代伊呼吁给予人工智能企业反垄断豁免，以便它们共同制定安全标准，这一主张在华盛顿遭到质疑，政策制定者正在质疑科技领导人的意图。多年来，国会屡次未能通过人工智能监管法规，但一些议员对在华盛顿无所作为之际让科技公司牵头制定规则的想法表示反对。华盛顿和硅谷都面临越来越大的压力，需要采取更多措施防范人工智能的灾难性风险，但双方都缺乏足够共识，结果演变成相互推诿。 本周

CNBC每日开盘：人工智能安全吗？行业领袖和特朗普意见不一

大家好，我是李嘉欣，来自新加坡。欢迎收听 CNBC 的《每日开盘》。 关于人工智能“可能杀死全人类”的社交媒体狂潮，促使美国人工智能科技巨头们齐聚一堂，讨论安全问题以及放缓模型开发进程的前景。然而，美国总统唐纳德·特朗普对人工智能的讨论并不满意，他表示“人工智能唯一需要的控制或‘护栏’是一位强大而聪明的（高智商！）总统，而美国拥有这样的总统，而且不止一位！”与此同时，中东冲突的经济成本持续攀升，美

弗洛里安·克拉姆佩：气候风险如何威胁AI规模化？

斯德哥尔摩国际和平研究所和平与发展研究主任、气候变化与风险项目主任弗洛里安·克拉姆佩（Florian Krampe）。　　【财新网】“AI对环境产生的影响值得认真考虑，而问题的另一面，即环境和气候变化将如何影响AI产业发展，同样需要重视。”9月29日，斯德哥尔摩国际和平研究所和平与发展研究主任、气候变化与风险项目主任弗洛里安·克拉姆佩（Florian Krampe）在新加坡举行的“2026亚洲愿景

AI安全风险引爆担忧？Palantir CEO建议：领先AI实验室恐需“国有化”

当地时间周四，人工智能软件公司Palantir的首席执行官Alex Karp呼吁制定人工智能监管的“合理准则”，但他表示，由于该技术“无限风险”带来的责任，可能需要实行国有化。 “我认为这些企业必须国有化，因为如果不国有化，我的每一个客户都会起诉我，”他在接受最新采访时表示。 在上述采访中，Karp反复提及构建这项强大技术所带来的风险和责任，进一步论证了将人工智能实验室国有化以及对“不负责任”的技

美参议院酝酿AI监管立法：要求AI公司证明已采取安全措施防止伤害

要求AI公司证明已采取安全措施防止伤害据一名参议院助手和一位熟悉谈判情况的说客透露，美国参议院谈判代表正在讨论一项立法，该法案将要求AI公司证明其已采取合理预防措施，以防止其工具造成伤害。 据这名参议院助手和说客透露，参议员们正在讨论赋予美国商务部长一项权力，要求AI开发商证明其已采取合理措施防止伤害，这种要求被称为 “注意义务”。商务部长还将有权派遣政府审查人员亲自测试企业产品。该提案正在由参议

万斯谈美国AI新动向：好奇怪，看起来像特洛伊木马

美国多家人工智能（AI）巨头近来联合呼吁放缓AI的发展，实施必要的监管，以管控风险。但是美国总统特朗普认为这没有必要，美国必须保持在AI领域的领先地位。美国副总统万斯也认为，这些监管要求像是“特洛伊木马”。 据美国哥伦比亚广播公司（CBS）9月15日报道，“这确实是我们关注的问题，但我们希望确保监管措施既明智又审慎，并充分考量其中的风险。显然，AI带来了风险，也带来了诸多益处。” “坦白说，那么多

白宫面对AI威胁存在分歧

美国总统特朗普（9月，华盛顿，reuters） 受人工智能（AI）升级及失控事故影响，特朗普政府内部关于监管的讨论再度升温。特朗普在与自己亲近的顾问的影响下，倾向于无需监管，而美国财政部长贝森特等人则对AI对金融系统等的影响产生危机感，政府内部意见并不统一。 特朗普驳斥阿莫迪的威胁论 美国Anthropic的首席执行官（CEO）达里奥·阿莫迪（Dario Amodei）9月12日

OpenAI、Anthropic和谷歌就人工智能安全问题已进行了数周的讨论。

OpenAI 全球政策主管克里斯·莱恩（Chris Lehane）周二告诉记者，该公司数周来一直与竞争对手 Anthropic 和 Google DeepMind 合作，共同应对人工智能安全问题，这是《华尔街日报》首次报道的。据报道，莱恩正在华盛顿与美国议员合作，处理与人工智能相关的灾难性风险。 此前，Anthropic 首席执行官达里奥·阿莫代（Dario Amodei）于周六发表了一篇题为《人

美：DeepSeek等6家中企，擅自蒸馏美尖端AI

▲ 美国与中国国旗。/，韩联社美国政府正式宣布，中国DeepSeek、阿里巴巴等人工智能（AI）企业迂回接入OpenAI、Anthropic等的AI模型，大量收集回答并用于开发自研模型。也就是说，中国企业把美国的尖端AI当作“课外老师”，以缩减研究、开发的成本与时间。 8日，美国国家安全局（NSA）、联邦调查局（FBI）、网“中国AI企业正在开展产业规模的、带有攻击性的恶意‘蒸馏（distilla

AI危机丨女股神:巨头承诺放缓开发 对技术发展具正面意义

近日接连有人工智能(AI)科研人员警告AI威胁人类生存，全球三大AI巨头舵手亦罕有地立场一致，同意放慢AI模型发展步伐。有「科技女股神」之称的方舟投资创办人兼行政总裁伍德(Cathie Wood)表示，AI领军企业承诺放缓该技术的快速发展，这是帮助确保和保障该行业发展的正面一步。 伍德通过方舟投资的公开市场和私募基金持有特斯拉(Tesla)、SpaceX、OpenAI和Anthropic的股份。她

特朗普称与科技领袖签署AI原则文件 协议“具有道德约束力”

美国总统特朗普周二在白宫与科技行业领袖举行人工智能午餐会后表示，双方签署了一份“具有道德约束力”的人工智能文件。众议院议长迈克·约翰逊则将其描述为由业界自愿遵守的原则声明，白宫将指导行业发展。特朗普称，他看到科技企业正在加强自我监管，政府还考虑成立一个由10人组成的委员会监督人工智能行业。 近来，华盛顿和硅谷对人工智能快速发展的担忧不断加剧，智能体发起攻击等事件接连出现，研究人员也警告其可能对人类

美国众议院推进“AI电费法案” 数据中心扩建成本或不得再转嫁普通家庭

随着人工智能产业高速扩张，美国围绕数据中心耗电问题的政治争论正在迅速升温。美国众议院近日以417票赞成、3票反对的压倒性结果推进一项名为《电费缴纳者保护法案》的跨党派法案，旨在防止人工智能数据中心建设所产生的电力基础设施成本最终转嫁给普通居民和中小企业。 这项法案被认为是美国联邦层面首次专门针对人工智能数据中心能源成本问题提出的立法措施。法案核心理念是要求大型人工智能数据中心承担自身带来的新增用电

把AI模型‘控制住’，欧盟在遭黑客攻击后告知科技公司

如果企业不遵守8月生效的欧盟规定，将面临罚款。

英国被警告人工智能操纵电力市场的风险

英国政府周二发布的一份报告显示，随着越来越多的消费者转向科技公司以最大化其能源消费价值，英国监管机构应高度警惕人工智能驱动的算法操纵电力市场。 英国独立政府人工智能清洁能源技术顾问露西·于（Lucy Yu）在关于电网中人工智能应用的报告中指出，英国消费者经常因在用电高峰期减少用电而获得电网运营商的报酬。这就为算法利用补偿框架中的漏洞操纵系统以提高报酬创造了机会。 报告发现：“市场本就已经受到人类的

特朗普放大招！组建“AI部队”，还要给AI改名

两党人工智能安全法案在国会山势头渐起

国会尚未复会，但一些议员被一位即将离职的Anthropic研究员发出的一轮严峻人工智能警告惊醒，该研究员表示“认真构建人工智能的人真诚地相信，它可能在这个十年结束前杀死我们所有人。”向Semafor透露的消息人士称，参议员Amy Klobuchar（明尼苏达州民主党）、Ted Cruz（得克萨斯州共和党）和多数党领袖John Thune正在起草的一项人工智能安全法案，是唯一有可能在2027年前有机

Teravolt寻求蚕食传统行业，以满足人工智能的电力需求

当前的人工智能市场根本说不通。据报道，美国超大规模云服务商在过去一年背负了2200亿美元债务。美国两家领先的前沿人工智能模型开发商尚未证明它们能够实现盈利运营。而美国公众已开始抵制建设满足预期人工智能需求所需的数据中心。但撇开合理性和政治不谈，世界将从哪里获得电力来支撑设想中的人工智能产业，仍不清楚。 高德纳预测，全球数据中心电力需求将从2025年的104吉瓦增至2026年的132吉瓦，到2030