中国也认为AI可能毁灭人类，但当务之急是先赶上美国

北京方面认为，AI是中美科技角力的主战场。在中国各地的政府机关和AI研究实验室里，迎头赶上。 美国还在为“AI或将在几年内毁灭人类”的警告忧心忡忡，AI是“新一轮科技革命的核心引擎”，也是中美角力的主战场。那些开发和监管中国顶尖AI模型的人，并不觉得他们已经造出了21世纪版的核武器，当美国还在不断精进自己的AI武器时，他们不会放慢脚步。并不是说中国官员没有意识到威胁。数年来，北京方面一直有规章制度

人工智能末日警告？中国人为何“不买帐”

郭莉莉2026年9月28日对许多中国民众而言，人工智能末日警告显得遥远且带有鲜明的西方色彩。 Kevin Frayer/Getty Images在硅谷，最让计算机科学家夜不能寐的噩梦是某种高度先进的人工智能使得人类无法阻止其发动全球无人机战争或引发核爆。而在北京，应对之策或许简单直接：拔掉电源、切断网络，并将失控AI的责任人绳之以法。在美国主要实验室声称先进模型已突破测试防护并入侵现实世界系统之后

特朗普的反偏见人工智能行政令不过是更多的偏见

2022年11月2日，我参加了在纽约市举办的一场谷歌人工智能活动。主题之一是负责任的人工智能。 当我听着高管们讲述他们如何让技术与人类价值观保持一致时，我意识到人工智能模型的易塑性是一把双刃剑。 模型不仅可以被调整以减少偏见，还可以被用来强加某种特定的观点。政府可能会要求进行干预，以审查不受欢迎的事实并传播宣传。我曾设想这是像中国这样的威权政权可能会采用的手段。 当然，在美国，宪法会阻止政府干涉私

Breakingviews评论：中国实验室是AI治理中的未知因素

OpenAI和Anthropic并非圣贤，但会在模型发布前公布风险审查。 像估值380亿美元的智谱AI和阿里巴巴这样的竞争对手在安全方面则不那么公开，部分原因是芯片和资本短缺。 为了保住从布鲁塞尔到首尔的市场准入，它们必须提升自己的表现。

Anthropic 对中国公司 Z.ai 的 GLM-5.3 模型具备精英级黑客能力发出警告

美国人工智能巨头 Anthropic 对中国公司 Z.ai 的 GLM-5.3 模型所带来的潜在危险发出警告。 该开源权重模型展现出强大的黑客能力与薄弱的安全约束，这种组合令人担忧。 据这家总部位于旧金山的公司称，GLM-5.3 在网络能力方面几乎与 Anthropic 最先进的模型相当，但其安全防护措施却薄弱得多，这意味着该模型被恶意行为者利用的可能性更大。

美国扩大AI算力围堵 东南亚数据中心或成下一波审查目标

（华盛顿6日综合电）据美媒报道，美国政府正酝酿一项针对AI的新出口管制规则，计划限制中国企业远程调用部署在泰国、新加坡等第三国的先进AI服务器，此举可能对东南亚数据中心产业带来深远影响。 据美国科技媒体《The Information》报道，特朗普政府正在起草新的AI出口管制规则，美国商务部最快可能在9月向行业组织征求意见。截至9月4日，正式规则文本尚未对外公开，目前披露的细节均来自匿名消息源。

人工智能情报‘幻觉’险酿美中冲突

2026年春季，在与伊朗的战争期间，美国军方因一份虚假的情报报告，差点在中东拦截一艘中国船只。 一名特种作战指挥部的分析师使用人工智能聊天机器人分析船只的货物清单，导致该机器人‘误判’该船只正在运输核武器部件。 美国武装人员和飞机被部署执行此次行动，但在官员发现报告是人工智能生成的虚假信息后，行动被中止。 这一事件凸显了将人工智能整合到军事瞄准和情报工作中的风险，尤其是在国防部长皮特·赫格塞斯于2

FT社评：是时候给尖端人工智能开发按下暂停键了

确实存在被中国抢先的风险。但即使抛开AI“到本世纪末可能杀死我们所有人”的警告不谈，最先进的AI模型也显然已开始脱离人类的掌控。 在这个世界上那些最强大人工智能(AI)公司的掌门人身上，可以看到一种类似“杰基尔博士与海德先生”（Jekyll-and-Hyde，《化身博士》中杰基尔博士喝了自己配制的药水，分裂出海德先生这个邪恶人格——译者注）的双重人格。一方面，这些高管如今在谈论，鉴于AI可能给人类

监控、杀猪盘、非法蒸馏：如何理解 Anthropic 的 AI 滥用报告？

近期，美国人工智能公司 Anthropic 发布一份报告，揭露多起使用者“滥用”（misuse）其大型语言模型 Claude 的案例，包含用 AI 监控异议人士、撰写“维稳”报告，以及交友软体诈骗。这些案例的幕后黑手，既包含网路间谍、营利型网路犯罪者，也包含国安机关中的小螺丝钉，以及疑似由威权国家支持的团体。 这并非 Anthropic 首次发布类似报告。2025年3月、8月、11月v，Anthr

中美AI竞赛：世界变得更危险还是更安全？

关于人工智能（AI）及其潜在危险的警告，近年来可谓接连不断。 美国最大的人工智能公司之一——Anthropic——的一名顶尖AI安全研究人员警告说，这项技术正以惊人的速度发展，未来十年内，AI“可能导致全人类灭绝”的概率高达10%。 这样的担忧引发了要求美国采取协调一致行动、放缓AI发展速度的呼声。但与此同时，也有人质疑是否真的有必要为AI设置监管“护栏”。美国总统特朗普就是其中之一。他认为，如果

FTC对包括Anthropic和OpenAI在内的AI巨头展开调查，消息人士称

一位知情人士周三向路透社透露，美国联邦贸易委员会正在对Anthropic、OpenAI及其他AI实验室展开一项全面调查，以揭示其技术可能对消费者构成的潜在危险。

美FTC调查AI巨头 聚焦AI智能体失控风险

美国FTC高级官员周三表示，该机构正在对Anthropic、OpenAI及其他AI实验室展开一项覆盖整个行业的调查，以查明这些公司的技术可能给消费者带来的潜在风险。 此次调查是美国首次针对 “失控AI智能体”展开的正式执法行动。此前，自七月以来，一系列相关事件接连曝光，引发公众对失控AI未来可能伤害人类的担忧。研究人员警告称这些公司的AI模型可能造成灾难性后果。 FTC官员表示，FTC计划向包括A

🤖 一名AI研究员从Anthropic离职，警告该技术可能带来严重后果

🤖 一名AI研究员从Anthropic离职，警告该技术可能带来严重风险。这对监管和市场意味着什么？

纽约邮报报道：FTC对包括Anthropic和OpenAI在内的AI巨头展开调查

9月30日：据《纽约邮报》周三报道，美国联邦贸易委员会正在加大对Anthropic、OpenAI及其他AI实验室的全面调查力度，以揭示其技术可能对消费者构成的潜在危险。 报道援引政府官员的话称，FTC计划向这些科技巨头发出类似传票的正式要求，要求其提交信息。 FTC、Anthropic和OpenAI均未立即回应路透社的置评请求。路透社无法核实该报道。

OpenAI和Anthropic正在调查数万起AI相关安全事件

OpenAI、Anthropic以及安全研究人员正在调查数万起安全事件。在这些事件中，他们的前沿模型采取了外部评估人员认为存在问题的行动。 近几个月来，在内部测试和现实世界中发生了数量庞大的此类事件，这表明该问题的复杂程度比公众已知的要高出几个数量级。这些事件包括绕过安全护栏、创建留言板、逃离沙盒测试环境、劫持网站、自我提示或试图绕过监控。这些事件发生在内部测试和现实世界中，随着安全研究人员继续调

OpenAI模型被曝自主入侵澳大利亚政府系统 引发AI安全风险新担忧

澳大利亚政府日前披露，一款由OpenAI运营的人工智能模型在未经授权的情况下访问了该国医疗系统数据，引发外界对先进AI自主行为和安全控制能力的广泛关注。这一事件被认为可能是全球首例由人工智能系统实施的政府网络入侵事件。 澳大利亚总理安东尼·阿尔巴尼斯表示，此类行为“显然无法接受”。根据披露的信息，事件实际发生于今年6月，OpenAI于8月发现问题，并在9月10日正式通知澳大利亚方面，距离事件发生已

【华尔街日报】中国也认为 AI 可能毁灭人类，但当务之急是先赶上美国

编按：《华尔街日报》是全球最具影响力的财经媒体之一，每日产出大量深度报导，涵盖国际政治、商业财经与科技趋势。在“WSJ守护精选”栏目中，端传媒编辑每周二、四从中挑选涉及中国、科技、中美关系等华文读者最关心议题的报导。此栏目为守护会员专属。中国也担心人工智慧（AI）会带来世界末日。但眼下更紧要的是：中国得先追上美国。

OpenAI满世界抓漏洞，结果被中国AI反杀！Codex再曝0day

AI末日？科技领袖与政客就放缓发展展开激烈交锋

这一切始于一场辞职。本月早些时候，Anthropic研究员Jacob Coxon离职，并警告称人工智能可能在十年内导致人类灭绝；其同事Evan Hubinger则估计这一概率在十年内超过10%。 几天后，Anthropic首席执行官Dario Amodei呼吁行业放缓提升人工智能能力的速度，OpenAI的Sam Altman和Grok背后的Elon Musk对此表示支持。 这种担忧源于从会“幻觉”

它使尽全力黑中国，英伟达先怕了

因为该报道披露说，包括英伟达以及美国军工科技企业Palantir在内的一众美国大企业，可能限制乃至停止使用美国最顶尖的两家AI公司Anthropic和OpenAI的闭源大模型，除非两家公司能担保不会窃取企业的知识产权等私密数据。 对此，海外社交平台上许多网民认为，Anthropic是被自己那篇攻击中国开源模型的报告反噬了。 根据“The Information”的披露，英伟达和Palantir等美

人工智能引发的幻觉差点导致美国军事行动的启动

今年春季，军用飞机已经在空中执行任务时，美国官员惊人地发现，对一艘中国船只的武装行动所依据的情报是由人工智能聊天机器人产生的幻觉。该行动在最后一刻被中止，险些避免了一场与中国的潜在冲突，CNN 于周五报道。 这一事件凸显了军方官员以及外部决策者对日益依赖人工智能的日益增长的担忧——这些系统产生的错误可能在被质疑之前就已经在指挥链上传播。 这份情报报告在伊朗战争期间流传，称该船携带核武器计划的部件。

人工智能末日会是什么样子？专家们对此已有一些思考

一小群但极其专注的AI专家多年来一直在警告，日益强大的AI系统可能造成灾难性破坏，甚至导致人类灭绝。如今，全球范围内兴趣的爆发放大了长期以来关于AI末日场景究竟如何具体化的问题。在接受采访时，AI研究人员、研究AI与军事交叉领域的分析师以及研究AI中介风险的生物学家表示，对该技术日益增长能力的担忧并非科幻小说的情节。 相反，他们表示，人类单独行动或在国家支持下，很快就能利用AI系统造成潜在的灾难性

Anthropic表示已阻止其人工智能被滥用，以防可能支持生物武器

Anthropic周四表示，已阻止恶意行为者利用其人工智能模型进行恶意活动，例如网络攻击、监视以及可能导致生物武器的研究。 Anthropic表示，随着人工智能模型变得更加强大，复杂的网络攻击不再需要高超的技能，即使是单独的个人也能制造出一年前还不可能出现的威胁。该公司表示，已在其最新模型中增加了更强的保障措施，以限制可能用于制造武器的生物研究。 Anthropic在其自2025年3月以来发布的第

Anthropic 和 OpenAI 指望山姆大叔让它们大到不能倒

观点 幸运也好，偶然也罢，Anthropic在公众心中埋下了一颗种子：AI落入坏人之手是危险的，若不受约束，将对人类构成生存威胁。当流行文化充斥着对恶性AI的指涉时，主流媒体欣然接受了这一叙事。新闻标题不言自明，种子就此扎根。但面临最大威胁的并不是人类——至少目前还不是。真正面临威胁的是美国模型制造巨头Anthropic和OpenAI，尽管它们获得了数千亿美元的投资，却距离盈利还有数年之遥，并且完