OpenAI与Anthropic曾接近达成协议 互相开展AI压力测试

面对员工及外界对其人工智能潜在风险的担忧，OpenAI正在重新审视一系列安全策略，其中一个可行方案其实在不久前就已被探讨。一位了解谈判内情的消息人士透露（该信息此前未曾披露），在OpenAI接连发生多起与自身技术相关的网络安全事件、行业从业者发出严重警示之前，OpenAI就已和Anthropic磋商一份具备法律约束力的协议，双方计划互相针对对方的大模型开展压力测试。 这名消息人士称，今年早些时候，

美国提议中美建立AI事故通报机制

马斯克发警告：AI要是控制了军事系统发射核弹，那就太糟糕了

美国多家人工智能（AI）巨头近来联合呼吁放缓AI的发展，实施必要的监管。xAI的创立者马斯克9月15日再度发出严厉警告。“如果AI能够控制军事系统，并发射核弹，那就太糟糕了。” 现场有人说，这些军事系统都是被物理隔离的，并没有连接到互联网。“话虽如此，但我总觉得它们还是会不时进行软件更新。” 近期，外界对于AI技术潜在风险的担忧持续升温。刚刚从Anthropic离职的AI研究人员雅各布·考克森告诉

扎克伯格和马斯克在G-20峰会上呼吁建设更多AI数据中心

此举正值美国国内对AI数据中心建设日益强烈的反对声浪之际。

AI超级智能的放缓

还记得科技领袖们曾告诉员工“快速行动，打破常规”吗？这似乎也将是AI的发展方式。但在一个失控AI代理成为现实的夏天之后，研究人员警告说AI可能杀死我们所有人，一些领先的美国AI公司公开表示，是时候踩刹车，并“调整前沿”的尖端AI开发步伐了。 他们的动机可疑，但主要AI公司——包括Anthropic、OpenAI、谷歌、微软和X——的领导人至少在口头上支持超级智能放缓的想法。 这些AI公司真的会放缓

科技竞赛引爆点：黄仁勋、马斯克在中美激烈竞争中反对AI护栏

包括英伟达CEO黄仁勋和特斯拉的埃隆·马斯克在内的美国科技巨头正在向全球大国施压，要求削减人工智能监管，并警告称随着中美在日益激烈的技术军备竞赛中竞争，严格的护栏可能扼杀创新。 周三，黄仁勋在北卡罗来纳州教堂山与美国总统商务部长霍华德·卢特尼克共同出席二十国集团会议时表示，他敦促政策制定者针对“实际和务实的危害”而非“假设的理论危害”制定AI法规。 他认为，过度监管和恐惧可能会阻止各国获得快速发展

放慢AI模型训练 人类就能幸免于难？｜专栏

不久前，我写了一篇关于AI企业如何给大语言模型「安装良心」的专栏文章，探讨一个研究者们苦恼已久的问题——「AI对齐」(AI Alignment, 指人工智能的安全与价值观对齐)。「安装良心」是借用我的受访者、从事AI安全评估的Ordinary Wisdom共同创始人之一Michael Mainelli形象的说法，本质上就是让AI模型遵循人类的预期和目标行事，不仅仅是完成指令，还要在过程中维持与人类

特朗普想给“人工智能”这个词改名，马斯克回了一句话

AI、谷歌因协调AI放缓的呼吁被指控勾结

LoopDNS资讯播报: 中国官媒批Anthropic等美企“放缓AI”倡议系冷战思维 针对Anthropic首席执行官达里奥·阿莫代伊近日发表呼吁放缓前沿人工智能（AI）开发并主张对华实施芯片出口管制等提议，《环球时报》发表社评指出，该倡议名义上关乎安全风险，实则是企图限制中国AI发展、维持美国技术垄断的“冷战套路”。社评警告，将中国排除在全球AI创新之外将显著增加全球AI发展的试错成本与失控风

硅谷的一些人正在质疑要求放慢人工智能发展步伐的呼声。

Kalley Huang和Mike Isaac报道，硅谷领袖们对减缓AI发展的呼吁意见不一，一些人支持更严格的安全监管，而另一些人则担心这会扼杀竞争和创新。 批评者认为，AI安全担忧可能被夸大或出于私利，质疑监管呼吁背后的动机，并敦促领先AI实验室之外的透明度。 立法者和科技CEO承认AI风险，但对严格监管犹豫不决，强调需要在安全与保持全球AI领导地位和创新之间取得平衡。 AI生成 旧金山——周末

Anthropic呼吁放缓AI发展 《环球时报》称是美“科技右翼”的冷战剧本

美国人工智能公司Anthropic首席执行官呼吁放缓人工智能发展，以规避技术失控风险。中国《环球时报》评论，文章暗藏大量针对中国的遏制条款，实质上是一出AI领域的“冷战剧本”。 Anthropic首席执行官阿莫迪星期六（9月12日）在个人博客撰文，呼吁人们必须掌控前沿技术的发展节奏。这一倡议迅速得到特斯拉首席执行官马斯克，OpenAI首席执行官奥尔特曼等人的联合支持。 《环球时报》星期天（9月13

AI放缓掀议论 专家：关键在自我控管、产业走向成熟之路

（中央社记者旧金山15日专电）AI资安事件频传，引发放缓发展与否的广大讨论，Salesforce执行长班纽夫、辉达执行长黄仁勋认为与其诉诸监管，「企业更需为自家产品把关」，美国科技业咨询公司Futurum Group副总裁接受中央社访问指出，问题确实要回归企业，这也是AI产业走向成熟必经过程。 矽谷企业领袖今天齐聚Salesforce年度大会，就AI安全展开对话。 去年AI泡沫论甚嚣尘上，今年科技

AI开发商呼吁减速引发科技股下跌，特朗普抨击其为“病态阴谋”

特朗普谴责“病态阴谋”，AI科技股在开发者呼吁放缓后下跌。美国总统唐纳德·特朗普将要求加强AI管控的呼声斥为“病态阴谋”，并称美国必须赢得对中国的AI竞赛。 这一反应源于Anthropic首席执行官达里奥·阿莫代伊在周末发出的呼吁，该呼吁得到OpenAI、谷歌DeepMind和SpaceX等领导人的支持，敦促行业限制“鲁莽”的开发。 市场于2026年9月14日周一作出回应：纳斯达克下跌0.8%，英

Anthropic联手OpenAI呼吁放慢AI发展？剖析AI失控风险与算力门槛

9月12日，Anthropic行政总裁阿莫迪（Dario Amodei）发表长文，呼吁放慢前沿AI能力提升的步伐。OpenAI行政总裁奥特曼（Sam Altman）随后表示支持，xAI的老板马斯克也转发认同。据美媒披露，美国前总统奥巴马（Barack Obama）近日也表示，如果管理不当，人工智能技术可能「很危险」。Anthropic首席执行官达里欧．阿莫戴（Dario Amodei）发表长文，呼

真有末日或深层盘算 美巨头齐喊放慢AI重点一次看

（中央社旧金山14日综合外电报导）多名美国AI企业领袖近日以安全理由呼吁放慢AI研发脚步。美国总统川普与辉达执行长黄仁勋则持相反看法，川普甚至称「AI将接管世界」的说法是骗局，放缓只会让北京得利。 ● 人类毁灭倒数？矽谷巨头罕见齐吁缓AI、建护栏包括Anthropic执行长阿莫戴（Dario Amodei）、OpenAI执行长阿特曼（Sam Altman）、xAI创办人马斯克（Elon Musk）

大型科技公司的AI放缓是安全协议，还是卡特尔？

当OpenAI首席执行官萨姆·奥尔特曼、Anthropic首席执行官达里奥·阿莫代伊、谷歌DeepMind联合创始人德米斯·哈萨比斯以及SpaceX负责人埃隆·马斯克上周末非正式地同意放缓AI开发时，怀疑者立刻察觉到了别有用心。 这些AI巨头曾宣称，他们的目标是“控制前沿的发展节奏”，而这至少在一定程度上取决于一项提案：引入第三方审计、监管国内实验室，并达成全球放缓协议。 然而，他们的批评者认为，

马斯克：我早已为人工智能风险多次敲响警钟

人们早就见惯埃隆・马斯克放出论断，而这一次，自己一直都是对的。这位太空探索技术公司（SpaceX）与特斯拉的首席执行官，对 Anthropic 公司 CEO 达里奥・阿莫代伊发布的长文表示赞同。 具备递归自我迭代能力的人工智能，会快到超出人类理解与管控的范围；即便要研发这类技术，也必须万分谨慎。 为防范未来风险，前沿 AI 企业应当在内部派驻第三方评估人员，用来检测 AI 模型，监督实验室落实安全

🔊 要求限制先进人工智能模型的呼声日益高涨。但美国和中国会

🔊 特朗普总统表示，美国人工智能公司不应放缓开发

扎克伯格拒绝呼吁减缓人工智能发展的速度，他表示竞争能够确保相关系统更加安全。

Meta首席执行官马克·扎克伯格反驳了日益增多的要求放缓或暂停人工智能热潮的呼声，他认为人工智能企业之间的竞争以及法律追责风险能够促使开发者提升系统的安全性。周二，扎克伯格在X平台上发文表示，人工智能企业有强烈的商业动机确保其系统以用户预期的方式运行。 他正在回应一场更广泛的辩论，即人工智能系统能力日益增强所带来的风险，以及是否应该允许公司自我监管。扎克伯格在X上写道：“人们不想使用与他们不一致、

安理会本周开会讨论AI和国际安全问题，DeepSeek公司被曝将作通报

【文/观察者网 熊超然】9月22日，路透社援引两名知情人士独家报道称，随着各国领导人近期齐聚纽约参加第81届联合国大会，中国人工智能（AI）初创企业深度求索（DeepSeek）将与其他公司一道，在本周向联合国安理会介绍AI带来的风险情况。安理会定于9月23日开会讨论AI与国际安全问题。此前，多名AI行业的重要人物曾呼吁协同放缓日益强大的AI系统开发速度，并警告称，这些系统可能很快具备自我改进能力，

集体踩刹车，微软加入OpenAI、Anthropic，表态放缓AI前沿开发

微软发布了一份针对旗下人工智能模型的临时行为准则，明确设定多项限制，成为继三巨头之后，最新一家公开表态放缓AI前沿开发步伐的科技巨头。这份长达1.5万字的准则，人比AI重要。 要求模型不得响应武器制造相关请求，不得协助获取危险物质，不得生成暴力或色情内容。微软表示，准则将在收集外部意见后更新，并将于2027年起正式指导其模型开发工作。 微软AI业务负责人Mustafa Suleiman表示，这份准

Anthropic老板呼吁放缓AI发展，奥尔特曼和马斯克表示赞同

Anthropic首席执行官达里奥·阿莫代伊周六呼吁人工智能公司放缓这项强大技术的发展，因为人们对“超级智能”计算机系统风险的担忧日益加剧。

AI领袖们在多年不计后果地狂飙之后想要踩下刹车

多年来，各大前沿人工智能实验室一直表现得仿佛正身处一场全力以赴、赢家通吃的竞赛，而终点线就是掌控足以改变世界的机器超级智能（或至少是能改变市场格局的人工通用智能）。本周末，整个行业迅速开始背离这种姿态，转而敦促各方协调合作，放缓前沿人工智能的开发，他们称这类人工智能可能很快就会变得过于危险、过于不可知，从而难以控制。 Anthropic 的达里奥·阿莫代伊（Dario Amodei）站在这场语气转