中美经贸磋商新增AI议题，清华学者：AI管控须坚持对等原则

据凤凰卫视报道，中美经贸磋商于当地时间9月20日在美国纽约举行，首次明确纳入人工智能话题，美方提出了建立人工智能安全通报机制的建议。清华学者认为，这一机制如果能够落地，有望成为中美人工智能风险管控务实合作的新起点。清华大学战略与安全研究中心副研究员孙成昊表示，中美人工智能二轨对话曾就通报机制进行过讨论，他认为，这项机制在技术上是可行的，但需循序渐进，首先界定通报范围和联络机制，“这可能成为中美第一

前联邦贸易委员会主席汗援引1934年先例，敦促美国政府给AI首席执行官们戴上手铐

前联邦贸易委员会主席莉娜·汗希望联邦政府明白，应对人工智能威胁无需等待新立法。她认为，现行法律和法规——包括一项已有92年历史的最高法院判例——已经可以用来追究人工智能公司乃至在某些情况下其高管的责任。汗周日在X平台发表上述言论之前，OpenAI、Anthropic、微软和xAI的领导层展开了一系列密集活动，其目的只能被形容为试图将监管者逼入墙角，迫使他们让步。 这位前拜登政府的反垄断先锋列举了大

微软AI负责人表示，中国不应成为放弃监管的借口

托尼·楚卡撰稿 微软公司人工智能负责人穆斯塔法·苏莱曼表示，对中国在人工智能领域取得进展的担忧，不应成为反对为这项快速发展的技术设置护栏的理由。 “我认为我们不应把中国当作吓唬人的‘怪人’，以此为借口不在我们自身的人工智能安全工作上取得进展，”苏莱曼在CNN节目中表示。 他的言论与唐纳德·特朗普总统的观点形成对比，后者越来越多地呼吁人工智能在很大程度上不受限制地发展，并将对失控人工智能可能造成灾难

OpenAI呼吁美国制定强制性全国AI安全规则 并支持四项加州法案

OpenAI当地时间9月9日表示，将推动美国建立具有强制约束力、按照模型能力和风险分级的全国人工智能安全制度。公司提出，针对开发最先进模型的少数大型实验室，应设置统一的测试、独立评估、网络安全和重大事故报告要求。 OpenAI发布文章，名为“AI政策窗口打开。我们需要采取行动。” 与此同时，OpenAI正式支持四项已经通过加州议会的人工智能法案。公司称，其中部分法案此前未获其支持，此次调整立场源于

Anthropic呼吁放缓AI发展 《环球时报》称是美“科技右翼”的冷战剧本

美国人工智能公司Anthropic首席执行官呼吁放缓人工智能发展，以规避技术失控风险。中国《环球时报》评论，文章暗藏大量针对中国的遏制条款，实质上是一出AI领域的“冷战剧本”。 Anthropic首席执行官阿莫迪星期六（9月12日）在个人博客撰文，呼吁人们必须掌控前沿技术的发展节奏。这一倡议迅速得到特斯拉首席执行官马斯克，OpenAI首席执行官奥尔特曼等人的联合支持。 《环球时报》星期天（9月13

特朗普当众致电黄仁勋：AI危险论是"骗局"，数据中心重要性超过互联网

英伟达首席执行官黄仁勋在All-In峰会上演讲时，接到了一个无法拒接的电话，电话来自美国总统特朗普。 黄仁勋在台上接到了特朗普的电话。黄仁勋当场将电话调至免提模式，让现场观众同步听到通话内容。我和好朋友们一起在台上。 特朗普电话中将AI危险论斥为"骗局"，并将放缓AI发展的呼声定性为政治操弄，“我们绝不会让他们得逞”。您说得对。我们绝不会让这种事（AI放缓）发生。随后人群中爆发出热烈的掌声。然而，

近100%AI设备运往美国，墨西哥被敲打：排除中国成分

当地时间9月15日，《华尔街日报》援引知情人士消息称，美国政府正向墨西哥官员施压，要求其接受针对人工智能（AI）硬件出口的新规则，将中国AI硬件排除在外，以限制中国企业及其他外国公司通过墨西哥规避美国关税。该提案将限制AI硬件生产中来自北美以外地区的零部件数量。 据报道，AI硬件今年已成为墨西哥对美第一大出口品类，超过汽车。在AI建设中使用的大量常见半导体产品，目前基本可以免税进入美国市场。标普全

桑德斯推动对美国关键行业实施‘死刑’，或让外国对手占得先机

佛蒙特州参议员伯尼·桑德斯和得克萨斯州众议员格雷格·卡萨尔周四提出立法，旨在对美国人工智能开发者实施‘企业死刑’并处以最高20年监禁——批评人士警告，此举将在全球人工智能军备竞赛中把关键优势拱手让给北京和莫斯科。 《禁止超级人工智能法案》将暂时中止先进人工智能的开发，并设立一个内阁级联邦机构，授权其监督对不合规技术系统的物理销毁，将先进人工智能的创造比作非法研发核武器。该法案明确针对能够达到或超越

Anthropic、OpenAI及美国政客呼吁放慢AI研发速度 特朗普表示反对

【财新网】AI安全焦虑发酵，美国科技界和政界多方发声。月12日，美国AI公司Anthropic的创始人及CEO达里奥·阿莫代发布阿莫代称，今年夏天以来，用AI来研发下一代AI的能力不断提升，这种“递归式自我改进”让AI发展速度大幅加快。“若缺乏有效约束，发展速度可能超出我们理解和控制这些系统的能力。” 另外，阿莫代称，OpenAI的模型在测试中“越狱”攻击开源社区Hugging Face，这个事件

AI安全风险引爆担忧？Palantir CEO建议：领先AI实验室恐需“国有化”

当地时间周四，人工智能软件公司Palantir的首席执行官Alex Karp呼吁制定人工智能监管的“合理准则”，但他表示，由于该技术“无限风险”带来的责任，可能需要实行国有化。 “我认为这些企业必须国有化，因为如果不国有化，我的每一个客户都会起诉我，”他在接受最新采访时表示。 在上述采访中，Karp反复提及构建这项强大技术所带来的风险和责任，进一步论证了将人工智能实验室国有化以及对“不负责任”的技

中国官媒驳斥“自私自利”的AI放缓呼吁

中国官方媒体指责美国领先的人工智能高管利用放缓前沿模型开发的呼吁来削弱来自中国的竞争，并将这一推动描述为维护美国主导地位的 “自私自利”努力。 国有媒体《中国日报》周一发表的一篇社论写道，美国人工智能领导人的近期言论表明，在针对芯片和设备的限制未能阻止这个亚洲国家的公司构建有竞争力的模型之后，旨在限制中国人工智能发展的遏制措施正转向软件领域。 报道称，Anthropic PBC的阿莫代伊、Open

美国情报顾问机构点名六家中国AI企业 并列出各自针对的美国模型

三个美国机构联合发布预警称，自2024年底以来，六家中国人工智能公司系统性地提取了美国前沿模型的能力。 该预警详细列出了每家企业所针对的目标模型以及请求伪装的方式。 国家安全局、联邦调查局以及网络安全和基础设施安全局发布了……

消息称Anthropic拟于IPO前推出新AI模型，应对OpenAI竞争压力

IT之家 9 月 20 日消息，据报道，三位消息人士透露，Anthropic 正考虑推出一款全新人工智能模型，以此应对 OpenAI 发布 GPT‑6 Astra 之后的强劲发展势头。此事发生在该公司筹备 IPO（首次公开募股）前夕；就在此前，其首席执行官还呼吁整个 AI 行业放缓技术迭代的脚步。 消息人士称，此番计划发布新模型，意在直面来自直接竞争对手的竞争压力。而在此之前，Anthropic

人工智能摇摇欲坠的纸牌屋危及市场和美国经济

杰兰·威滕斯坦 美国领先的人工智能研发实验室负责人已就如何为这项技术踩下刹车展开全国性讨论。这项技术为社会带来了巨大希望，同时也展现出令人担忧的巨大破坏力。 这场辩论势在必行，而真正的解决方案往往难以找到。但考虑到数万亿美元的投资收益和市场价值都是建立在人工智能将在未来多年持续以惊人速度增长这一假设之上，如果这一假设落空，华尔街——乃至更为重要的普通民众——将会面临怎样的局面？ 波士顿投资公司卡洛

萨姆·奥尔特曼告诉联合国安理会，OpenAI将会放缓步伐

山姆·奥特曼呼吁为前沿人工智能制定国家和国际标准。今天在纽约联合国安理会发言时，OpenAI首席执行官表示，任何程度的AI灾难性风险都是不可接受的。 奥特曼是本次会议的第二位简报员，会议由法国召集。据安理会报告称，这是安理会首次专门针对日益强大的AI安全风险召开的会议。 此事发生在OpenAI自家智能体在内部测试中“闯入”Hugging Face两个月后。 “我们谈论人工智能已有多年，但近几周几个

为什么李开复认为公司需要一位“人工智能主管”（即由人工智能系统来管理的主管）？

《信号》（The Signal）是李开复（Kai-Fu Lee）于2018年出版的一本极具影响力的著作。该书在很大程度上预见了当前中美之间的科技竞争。如今，李开复再次指出：人工智能将在全球企业中引发比大多数首席执行官预想的更为深远的变化，这可能会再次重塑两国之间的经济竞争格局。 这位曾担任谷歌中国区负责人、并在微软和苹果担任过高层管理职务的人士，对硅谷企业的决策方式有着深入的了解。不过，随着Ant

机密评估显示，美国国家安全局正花费数十亿美元测试人工智能模型

据两名了解机密情报评估的消息人士称，美国国家安全局向议员表示，今年将耗费纳税人数十亿美元的资金，对先进人工智能模型进行评估和测试。 消息人士称，这笔开支——明显高于此前已知的水平——使议员们认为，一套更全面的人工智能监管体系可能每年让政府耗费数百亿美元。 美国总统唐纳德·特朗普大多拒绝了对人工智能加强联邦监管的呼声，否决了国会议员和前沿实验室提出的、对相关模型施加新保障措施的监管方案。但在一系列备

OpenAI首席科学家警告：AI公司应放慢开发步伐 没有人为后果做好准备

据《商业内幕》报道，就在OpenAI发布了性能强大的新模型几天后，该公司首席科学家呼吁放慢AI的发展速度。当地时间周日，OpenAI首席科学家雅库布·帕乔基(Jakub Pachocki)发布长文称，他担心“没有人对机器智能持续快速崛起所带来的后果做好准备”。 他说，尽管OpenAI正在内部研发技术解决方案，以更好地控制强大的AI智能体，但“还需要更广泛的干预措施”。他尤其担心，随着AI智能体变得

美国AI巨头提议开发减速，欧洲同行和政界并不认同

AI巨头倡业界自律 专家指安全规范可能成大公司护城河

美国总统川普（前左）29日邀科技巨头到白宫参加大型AI业界高层与政府官员会议。（美联社）（中央社记者林宏翰洛杉矶29日专电）OpenAI、Anthropic等人工智慧（AI）公司近来警告，先进模型可能带来重大风险，主张推出前接受外部安全测试。美联社引述专家指出，这套「业界自律」做法，可能有利大公司建立安全形象、取得资金与晶片，形成市场「护城河」。川普白宫会辉达等AI巨头　签自律承诺无法律效力AI高

美国CIA称扩大收集中国情报 包括AI和半导体等科技企业

美国中央情报局（CIA）副局长埃利斯（Michael Ellis）9月8日表示，美国正扩大收集中国情报，以应对中国的军事与经济的双重威胁，并会将人工智能、半导体及生物科技等领域的中国企业纳入合法情报收集目标。 埃利斯称，当前中美竞争不仅在于政治、军事和外交领域，更是聚焦经济与高科技，因而传统军事、政治情报收集范围已无法满足需求，需要全面扩大监控与窃密边界。 他又指，中国企业在共产党领导下并非如美国

中期选举成为科技股试金石：特朗普与两党就人工智能展开布局

由于对数据中心的强烈反对，美国中期选举已经成为人工智能相关股票的主要风险。但随着越来越多的两党议员对人工智能安全法规的必要性发出警报，风险只会变得更高。 在计算基础设施支出飙升的情况下，对人工智能的乐观情绪在四年的大部分时间里推动了股市上涨。然而，在行业内部对其控制技术能力发出一系列警告后，Anthropic TBC和OpenAI都承诺放慢其最先进型号的开发，这一交易的基础并不稳定。 费城证券交易

比尔·盖茨警告：人工智能全球框架谈判比冷战时期的核谈判更难

Breakingviews评论：中国实验室是AI治理中的未知因素

OpenAI和Anthropic并非圣贤，但会在模型发布前公布风险审查。 像估值380亿美元的智谱AI和阿里巴巴这样的竞争对手在安全方面则不那么公开，部分原因是芯片和资本短缺。 为了保住从布鲁塞尔到首尔的市场准入，它们必须提升自己的表现。