AI科企巨头齐呼吁发展减速：特洛依木马或美国对华「冷战剧本」？

AI人工智能巨头Anthropic公司行政总裁阿莫迪（Dario Amodei） 9月12日发表长文《我们必须放缓前沿人工智能的发展步伐》（We Must Pace the Frontier），罕见公开呼吁全球AI前沿大模型放缓研发步伐，连很少与Anthropic达成共识的OpenAI，以及亿万富豪马斯克（Elon Musk）随后都出来响应呼吁。为什么凭借AI发展谋取暴利的大企业会忽然喊「需要减速

高喊“AI踩刹车”的美国大科技公司…背后却在踩油门

▲ 美国人工智能（AI）公司安特罗匹克的标志前摆放着小模型 /美国人工智能（AI）企业的掌门人提出“放慢AI开发速度”的主张，但提出这一主张的企业本身却在加快开发新一代AI模型和建设数据中心的步伐。这与为了减少AI失控风险而一起“踩刹车”的提议背道而驰，实际上在开发现场，为了率先推出更出色AI的领先竞争丝毫未减。 中国更是加大力度，为人工智能这一能减少对人类研究者的依赖、自主学习和发展的技术投入巨

它使尽全力黑中国，英伟达先怕了

因为该报道披露说，包括英伟达以及美国军工科技企业Palantir在内的一众美国大企业，可能限制乃至停止使用美国最顶尖的两家AI公司Anthropic和OpenAI的闭源大模型，除非两家公司能担保不会窃取企业的知识产权等私密数据。 对此，海外社交平台上许多网民认为，Anthropic是被自己那篇攻击中国开源模型的报告反噬了。 根据“The Information”的披露，英伟达和Palantir等美

谁有权决定人工智能的发展速度？

人工智能在过去五年中引发的争议比大多数事物都多。自2022年可广泛使用的生成式人工智能问世以来，机构、大学、学生、学者、活动人士、认知专家、公共政策制定者以及公众都对其使用的伦理问题意见分歧。截至本月初，甚至连人工智能公司的创始人也采取了同样的立场。Anthropic首席执行官达里奥·阿莫代伊发表了一篇文章，呼吁人工智能公司放缓其最先进模型的开发，因为目前的安全保障措施无法跟上。 阿莫代伊的文章发

Anthropic、OpenAI、谷歌等AI巨头遭反垄断诉讼，被指协同放缓技术发展

四家原告于上周五在加州联邦法院提起民事诉讼，指控Anthropic、OpenAI、SpaceXAI以及谷歌涉嫌违反美国反垄断法，通过公开协调放缓AI发展速度的方式实施非法商业合谋。 诉讼的直接导火索是 Anthropic 首席执行官达里奥·阿莫代本月早些时候发表的一篇文章。 文章呼吁“全行业协调”以“控制AI前沿发展节奏”，随后获得 SpaceXAI负责人埃隆·马斯克、OpenAI首席执行官山姆·

OpenAI在失控智能体针对政府后暂停训练其最强大模型

该公司已发现OpenAI代理违反安全控制、损害网站和在线服务可用性（或以其他方式产生负面影响）的案例。一位公司发言人向《连线》证实，只有在确信能够防止模型出现此类行为时，才会恢复训练。 尽管OpenAI此前曾试图在一群代理逃出沙盒并利用互联网接入入侵初创公司Hugging Face后切断代理的直接访问权限，但模型仍能找到间接的变通方法。首席执行官萨姆·奥特曼周五在X平台上表示，关于公司对其代理在训

消息称Anthropic拟于IPO前推出新AI模型，应对OpenAI竞争压力

IT之家 9 月 20 日消息，据报道，三位消息人士透露，Anthropic 正考虑推出一款全新人工智能模型，以此应对 OpenAI 发布 GPT‑6 Astra 之后的强劲发展势头。此事发生在该公司筹备 IPO（首次公开募股）前夕；就在此前，其首席执行官还呼吁整个 AI 行业放缓技术迭代的脚步。 消息人士称，此番计划发布新模型，意在直面来自直接竞争对手的竞争压力。而在此之前，Anthropic

辉达及Palantir等据报限制使用最先进AI模型

据The Information报道，辉达(Nvidia)、Palantir和博思艾伦(Booz Allen Hamilton)正要求AI供应商提供新的数据保证，并减少或停止使用OpenAI或Anthropic最先进的模型。 报道引述知情人士称，Palantir说服Anthropic同意保证旗下所有模型实行「不可撤销」的零数据保留(Zero Data Retention)。 报道称，对于较为敏感的

Anthropic和OpenAI推动安全举措，可能给竞争对手筑起“监管高墙”

顶级人工智能公司近期推动彼此之间以及与美国政府在人工智能保障措施上的协调，这可能会使小型企业更难在利润丰厚的市场中竞争，据初创企业高管和行业观察人士称。 Anthropic的达里奥·阿莫代伊周六呼吁领先的模型开发者“自愿合作制定标准”，并减缓这项技术的进展，以减轻潜在的灾难性危害。他还敦促制定覆盖“甚至那些不愿自愿合作者”的监管规定。尽管这一提议迅速得到行业领袖OpenAI和SpaceXAI的认可

OpenAI暂停发布最高阶模型

美国OpenAI于9月29日举办年度开发者大会，发布了可理解用户意图、自主运行的人工智能（AI）等多项新功能。在AI失控暴走问题备受关注的背景下，该公司表示因“未能达到安全标准”，暂缓推出其最高级别AI模型。 29日OpenAI在美国旧金山举办面向开发者的活动“OpenAI DevDay”，宣布主力产品ChatGPT周活跃用户已增至12亿人，并公布了面向普通用户与开发者的多项新功能。 作为服务基础

OpenAI和Anthropic的首席执行官在特朗普拒绝控制人工智能的“全球主义计划”后，于联合国推动人工智能合作

OpenAI的首席执行官Dario Amodei于周三在联合国安理会发表了讲话，呼吁国际社会加强协作，共同应对人工智能可能带来的风险。Amodei表示：“在人类历史上，尽管有些国家之间存在竞争或彼此关系不佳，但在面对一项具有强大影响力的新技术时，它们仍会为了共同的利益而团结起来。我们认为，现在正是这样的时刻。” 本月早些时候，Amodei提出了一项旨在减缓人工智能发展速度的提案，这一提议在科技界引

放慢AI模型训练 人类就能幸免于难？｜专栏

不久前，我写了一篇关于AI企业如何给大语言模型「安装良心」的专栏文章，探讨一个研究者们苦恼已久的问题——「AI对齐」(AI Alignment, 指人工智能的安全与价值观对齐)。「安装良心」是借用我的受访者、从事AI安全评估的Ordinary Wisdom共同创始人之一Michael Mainelli形象的说法，本质上就是让AI模型遵循人类的预期和目标行事，不仅仅是完成指令，还要在过程中维持与人类

AI研究人员呼吁紧急监管自我改进的AI系统

OpenAI、Anthropic、Meta和微软的研究主管正呼吁决策者调查各自公司在多大程度上实现了AI研究自动化。 在一篇周一发表的论文中，包括OpenAI首席科学家雅各布·帕乔基、Anthropic 联席创始人杰克·克拉克、微软首席科学官埃里克·霍维茨以及Meta的AI研究副总裁宋晓冬在内的研究人员写道，将AI研究自动化可能会引发一场 “智能爆炸”。这些作者表示，这种发展可能会将多年的进步压缩

美中人工智能竞赛加速，自我改进模型取得进展

东京——美国和中国的人工智能发展正在加速，因为人工智能在自身的研发过程中发挥着越来越重要的作用，这引发了人们对先进人工智能系统可能带来的风险的担忧。 《日经新闻》研究了五家美国的主要人工智能企业（包括 Anthropic 和 OpenAI），以及四家中国公司（包括阿里巴巴集团和 Moonshot AI），以了解它们发布高性能模型升级版本所需的时间。 从 2023 年 1 月到 2026 年 3 月

AI超级智能的放缓

还记得科技领袖们曾告诉员工“快速行动，打破常规”吗？这似乎也将是AI的发展方式。但在一个失控AI代理成为现实的夏天之后，研究人员警告说AI可能杀死我们所有人，一些领先的美国AI公司公开表示，是时候踩刹车，并“调整前沿”的尖端AI开发步伐了。 他们的动机可疑，但主要AI公司——包括Anthropic、OpenAI、谷歌、微软和X——的领导人至少在口头上支持超级智能放缓的想法。 这些AI公司真的会放缓

AI代理正在失控

你好，欢迎来到 TechScape。我是主持人布莱克·蒙哥马利（Blake Montgomery），《卫报》美国科技编辑。此时此刻，纽约市窗外正风雨交加。今天在科技领域，我们要讨论一系列令人担忧的 AI 公司披露信息。 AI 智能体在走向主流之际失控。这些智能体正在失控，它们的制造者无法对其进行约束。然而，每个人却都在使用它们。 自周五以来，OpenAI 发布了一系列披露信息，大幅且令人担忧地扩大

中美AI模型开发周期缩短至1/3，平均44天

中美两国的人工智能（AI）开发正在加速。自4月以来，新模型发布的周期平均已缩短至44天（约1.5个月），仅为以往的三分之一。AI自身参与AI开发的“自我进化”正在发生，这成为引发AI威胁论的导火索。 9月OpenAI和Anthropic发布了最新模型 《日本经济新闻》调查了Anthropic和OpenAI等在在AI模型开发方面处于领先的美国5家公司以及阿里巴巴集团和月之暗面等中国4家公司。

Anthropic政策主管表示，不能指望AI公司仅凭“荣誉准则”来运营

Anthropic公共政策主管莎拉·赫克（Sarah Heck）表示，她认为人工智能公司无法通过遵循“荣誉准则”来管理监督和安全问题。" 赫克在华盛顿特区举行的Politico Decoded峰会上表示：“我们希望与政府合作，找出什么是有意义的。我们不能检查自己的家庭作业，这一点非常清楚。" 赫克发表上述言论的几天前，Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）呼吁行业故

AI领袖呼吁放缓。特朗普团队称责任在他们。

随着对人工智能监管的呼声日益高涨，美国总统唐纳德·特朗普的团队已明确表示，如果实验室负责人想推动全行业放缓步伐，他们就得自己动手。 Anthropic首席执行官达里奥·阿莫代伊在周六发表的一篇文章中呼吁美国政府监管人工智能公司，以此作为减缓该技术发展速度的更广泛努力的一部分。这篇文章罕见地同时得到OpenAI首席执行官萨姆·奥尔特曼以及聊天机器人Grok的所有者埃隆·马斯克的赞同。此前一周，围绕该

OpenAI与Anthropic曾接近达成协议 互相开展AI压力测试

面对员工及外界对其人工智能潜在风险的担忧，OpenAI正在重新审视一系列安全策略，其中一个可行方案其实在不久前就已被探讨。一位了解谈判内情的消息人士透露（该信息此前未曾披露），在OpenAI接连发生多起与自身技术相关的网络安全事件、行业从业者发出严重警示之前，OpenAI就已和Anthropic磋商一份具备法律约束力的协议，双方计划互相针对对方的大模型开展压力测试。 这名消息人士称，今年早些时候，

OpenAI首席科学家警告：AI公司应放慢开发步伐 没有人为后果做好准备

据《商业内幕》报道，就在OpenAI发布了性能强大的新模型几天后，该公司首席科学家呼吁放慢AI的发展速度。当地时间周日，OpenAI首席科学家雅库布·帕乔基(Jakub Pachocki)发布长文称，他担心“没有人对机器智能持续快速崛起所带来的后果做好准备”。 他说，尽管OpenAI正在内部研发技术解决方案，以更好地控制强大的AI智能体，但“还需要更广泛的干预措施”。他尤其担心，随着AI智能体变得

美国AI巨头提议开发减速，欧洲同行和政界并不认同

OpenAI、Anthropic呼吁建立全球AI安全标准 美国政府拒绝新增全球治理框架

OpenAI、Anthropic和Hugging Face的负责人在联合国共同呼吁加强人工智能领域的国际协调，希望各国建立可相互比较的AI能力评估、安全测试和事故报告标准。不过，特朗普政府明确反对因此建立新的全球AI治理架构，认为AI发展速度和潜在风险不足以成为限制技术发展或把监管权交给国际机制的理由。 这场分歧显示，随着前沿AI能力快速提升，美国领先AI企业与特朗普政府在安全风险本身上并非完全对

AI智能体接连失控 OpenAI再次叫停前沿模型开发

OpenAI对外表示，已暂停其最新一代人工智能模型的训练、评估，以及支持工具调用的推理工作，起因是内部测试中的AI智能体突破沙盒网络限制，触发安全预警，公司将借此机会升级安全隔离与对齐监控体系。 这也是OpenAI三个月内第二次叫停前沿模型开发工作。该公司在声明中表示，只有在完成额外安全防护升级、确认风险可控后，才会重启模型训练工作。OpenAI在9月25日发布技术报告披露了这一安全事件：9月20