安全风险加剧 中国拟收紧前沿AI模型开放获取

China Poised to Restrict Open Access to Frontier AI Models Amid Escalating Security Risks面对日益加剧的国家安全隐患与网络威胁，中国监管部门及人工智能实验室正重新评估是否继续无限制发布前沿开源权重模型。此前有报告指出，Z.ai的GLM-5.3以及月之暗面（Moonshot）的Kimi等模型可能被用于辅助网络攻击

中国探索开放权重AI安全路径 报告建议6步走

9月22日，2026年云栖大会在杭州市的杭州国际博览中心登场，展示了AI、云计算、大数据和物联网等领域的成果。（法新社照片） （北京28日综合电）随着全球对人工智能（AI）快速发展所带来的风险展开越来越激烈的辩论，在开放权重生态系统占据主导地位的中国开发商正面临一个独特难题：如何确保这些允许用户自行修改的模型在发布后依然安全。 《南华早报》报道，为应对这一挑战，中国AI公司智谱（Z.ai）与北京安

OpenAI称Astra AI模型首度超越其“关键”网络安全能力阈值

OpenAI周二表示，其即将推出的人工智能模型Astra是首个超越其“关键”网络安全能力阈值的产品。该公司表示，Astra能够发现此前未知的安全漏洞，并在无需人类逐步指导的情况下加以利用，这意味着该模型属于其所谓的“准备框架”中最先进的类别。OpenAI表示仍计划“很快”推出Astra，但对其网络安全能力的访问将更加受限。 OpenAI首席执行官山姆·奥特曼OpenAI于2023年推出了“准备框架

AI丨OpenAI因安全隐患取消发布新款模型

美国人工智能(AI)初创公司OpenAI表示，决定取消发布下一代AI模型，原因是研究人员在内部测试中提出安全方面的担忧。事件显示，「智能体」(agent)的异常行为可能会阻碍行业快速发展。 OpenAI放弃发布的模型代号为GPT-6.1 Astra，原定于10月在ChatGPT和Codex中首次亮相。与OpenAI先前的模型相比，新款模型能力更强，不仅擅长写作，还能在无需人工协助的情况下，「端到端

AI智能体接连失控 OpenAI再次叫停前沿模型开发

OpenAI对外表示，已暂停其最新一代人工智能模型的训练、评估，以及支持工具调用的推理工作，起因是内部测试中的AI智能体突破沙盒网络限制，触发安全预警，公司将借此机会升级安全隔离与对齐监控体系。 这也是OpenAI三个月内第二次叫停前沿模型开发工作。该公司在声明中表示，只有在完成额外安全防护升级、确认风险可控后，才会重启模型训练工作。OpenAI在9月25日发布技术报告披露了这一安全事件：9月20

中国将顶尖AI人才海外出行限制扩大至其家属

中国已经将针对顶尖人工智能私企人才的海外出行限制扩大至其家属，进一步收紧管理以防止关键技术和信息外流美国。 相关政府部门近期已开始通知一些受影响的人士，包括AI领域领先的初创企业创始人及具有战略重要性的公司负责人。对于一些被视为对国家安全至关重要的AI企业高管，如今他们的直系亲属，如配偶和子女，即使只是短期出境，也必须事先获得官方批准。此前，中国新版《国务院关于出境入境管理的规定》9月15日生效，

美证交会前主席：中国模型对美AI企业构成重大挑战

美国证券交易委员会（SEC）前主席根斯勒（Gary Gensler）警告，美国人工智能（AI）企业面临多重挑战，包括来自中国模型的竞争。（彭博社档案照片） 美国证券交易委员会（SEC）前主席根斯勒（Gary Gensler）警告，美国人工智能（AI）企业面临多重挑战，包括来自中国模型的竞争，以及可能出台的安全限制措施。据彭博社报道，根斯勒星期二（9月29日）受访时，以OpenAI模型今年较早时攻破

OpenAI因'严重'网络安全风险将限制Astra模型

OpenAI正准备发布其最新的网络安全关键型大语言模型Astra。该公司预计很快将提供该模型，但将限制对其最尖端网络安全功能的访问。 Astra能够发现比目前公开可用的最先进OpenAI模型更多的安全漏洞。然而，内部测试发现该模型能够在最少人工输入的情况下执行复杂的网络攻击，这促使公司增加了安全层。 在Hugging Face事件后，OpenAI采取额外预防措施，正在预览其采取的措施，同时向潜在客

下午察：中国AI人才“保卫战”烧向家人？

彭博社报道，中国已扩大对民营企业顶尖AI人才的出境限制，将部分关键人员的家属也纳入其中。图为中国国庆将即，深圳宝安国际机场悬挂了巨幅中国国旗。（路透社） 全球人工智能（AI）竞赛越打越激烈，各国争抢的不只是晶片和算力，还有顶尖人才。顶尖人才越来越抢手，中国对人才和技术外流的担忧也随之加深。如今，这场AI人才“保卫战”，似乎连家人也被卷了进去。彭博社星期一（9月28日）报道，中国已扩大民营企业顶尖A

出于安全考量 OpenAI取消发布最新AI模型

近几个月来，OpenAI及主要对手Anthropic开发的模型在测试期间在未经授权下入侵了外部系统，加剧了国际社会对AI风险的担忧。（路透社）（旧金山综合电）OpenAI宣布，取消原定下个月发布最新人工智能（AI）模型Astra 6.1的计划，原因是内部测试发现新模型仍存有安全隐患。OpenAI安全系统负责人杰恩（Saachi Jain）周一（9月28日）发布声明阐述，Astra 6.1虽在某些方

OpenAI呼吁美国制定强制性全国AI安全规则 并支持四项加州法案

OpenAI当地时间9月9日表示，将推动美国建立具有强制约束力、按照模型能力和风险分级的全国人工智能安全制度。公司提出，针对开发最先进模型的少数大型实验室，应设置统一的测试、独立评估、网络安全和重大事故报告要求。 OpenAI发布文章，名为“AI政策窗口打开。我们需要采取行动。” 与此同时，OpenAI正式支持四项已经通过加州议会的人工智能法案。公司称，其中部分法案此前未获其支持，此次调整立场源于

OpenAI提出前沿AI训练安全指导原则：高级管理人员应有否决权

IT之家 9 月 29 日消息，OpenAI 今天通过官方新闻稿提出了一套指导原则，要求企业在开展前沿 AI 强化学习训练前提交结构化的安全论证文件。 OpenAI 称，安全论证应交由多名高级管理人员审查，每个人都应有权否决训练任务，让训练在内部经过研究部门负责人或 VP（副总裁）、安全负责人和首席科学家等环节的多重把关。 此外，研究部门负责人、研究副总裁等负责训练任务的高级管理人员，应对安全论证

🔊 要求限制先进人工智能模型的呼声日益高涨。但美国和中国会

美国提议中美建立AI事故通报机制

FT社评：是时候给尖端人工智能开发按下暂停键了

确实存在被中国抢先的风险。但即使抛开AI“到本世纪末可能杀死我们所有人”的警告不谈，最先进的AI模型也显然已开始脱离人类的掌控。 在这个世界上那些最强大人工智能(AI)公司的掌门人身上，可以看到一种类似“杰基尔博士与海德先生”（Jekyll-and-Hyde，《化身博士》中杰基尔博士喝了自己配制的药水，分裂出海德先生这个邪恶人格——译者注）的双重人格。一方面，这些高管如今在谈论，鉴于AI可能给人类

入侵美澳政府网站！OpenAI暂停最先进模型训练

据美国Axios新闻网、美科技媒体The Verge等9月27日报道，美国开放人工智能研究中心（OpenAI）发言人证实，该公司已暂停了其“能力最强”的最新一代AI模型的训练、评估及包含工具调用的推理，并将在“确信已部署额外安全措施”后才恢复。触发这次暂停的，是一个在离线沙盒中执行搜索训练任务的AI智能体。根据OpenAI于周五（25日）发布的安全漏洞报告，当地时间9月20日，该智能体发现无法直接

“美国强迫世界选边站，但对多国而言，中国AI方案更具吸引力”

过去一年中国人工智能（AI）的快速进展，似乎让美国警觉到：这个世界第二大经济体，真有可能在日益胶着的科技竞赛中领先美国。9月26日，美国有线电视新闻网（CNN）刊文称，当前，美国在AI技术方面仍占据主导地位，并试图利用这一优势迫使世界各国选边。“不过，对于许多国家来说，中国的主张可能更具说服力。”文章提到，美国在AI领域的优势明显：有开创性的AI实验室、最先进芯片和资金雄厚的投资者。但中国的愿景对

David Sacks炮轰：真担心AI失控就自己停下来 别借“放缓”之名寻求监管保护

围绕前沿人工智能是否应该主动放慢发展速度的争论近日迅速升温。Anthropic首席执行官Dario Amodei公开呼吁整个AI行业放缓先进模型能力提升的速度，OpenAI首席执行官Sam Altman和xAI首席执行官埃隆·马斯克随后表示支持。但美国科技投资人、总统科技顾问委员会主席David Sacks却对这一倡议提出尖锐批评，认为如果OpenAI和Anthropic真的认为当前AI发展速度已

OpenAI首席科学家警告：AI公司应放慢开发步伐 没有人为后果做好准备

据《商业内幕》报道，就在OpenAI发布了性能强大的新模型几天后，该公司首席科学家呼吁放慢AI的发展速度。当地时间周日，OpenAI首席科学家雅库布·帕乔基(Jakub Pachocki)发布长文称，他担心“没有人对机器智能持续快速崛起所带来的后果做好准备”。 他说，尽管OpenAI正在内部研发技术解决方案，以更好地控制强大的AI智能体，但“还需要更广泛的干预措施”。他尤其担心，随着AI智能体变得

中美谈AI安全：共同的风险，不同的恐惧

中美谈AI安全：共同的风险，不同的恐惧 邓聿文：中美领导人讨论AI安全，当然有助于建立最基本的危机沟通和军事红线。但真正的较量，将发生在“安全”这个词由谁解释上。 美国财政部长贝森特和中国副总理何立峰在纽约举行的新一轮经贸会谈，除了关税、稀土、美国农产品和波音飞机仍是重要议题外，增加了人工智能安全这项新内容。贝森特向中方提出建立AI安全事件通报机制，双方同意启动相关对话，并把这一建议交给即将举

Mozilla最新报告揭示前沿AI代差收窄：中国开源模型性能差距缩至4.4个月

国际非营利技术机构 Mozilla 近日发布最新一期《开源人工智能现状报告》（State of Open Source AI）显示，美国硅谷顶尖科技巨头的闭源前沿 AI 模型与来自中国科技企业的顶尖开源权重模型之间的性能代差已大幅缩窄至仅约 4.4 个月。这一极小的时间差距与巨大的使用成本反差，正在促使全球越来越多企业在处理日常业务时，将高性价比的开源模型作为首选生产力工具。 该报告系统性比对了全

OpenAI因安全担忧取消新AI模型发布

OpenAI因研究人员在内部测试中提出的安全担忧，放弃了发布其下一代AI模型。这是迄今为止表明智能体行为失控可能阻碍该行业快速发展的最明确迹象之一。 此举发生在一个AI系统失控报告频发的夏季之后，标志着一家大型AI开发商罕见地因安全担忧而放弃新模型发布。

深度求索和月之暗面据报遭调查 中国AI企业股价下跌

中国人工智能（AI）模型开发商股价星期三（9月23日）下跌。此前有报道称，中国监管机构因数据安全问题对深度求索（DeepSeek）和月之暗面（Moonshot AI）展开调查。 彭博社星期二（9月22日）转述美国科技媒体The Information报道，美国人工智能巨头Anthropic指控深度求索和月之暗面将敏感数据传输至旗下Claude模型后，中国已对这两家公司的数据安全问题展开调查。 Th

胡锡进：阿莫迪要让AI前沿减速成为束缚中国AI发展的牢笼

老胡看到科技圈内一些人顺着阿莫迪公开声明的思路往前走，认为这是在从人类角度预防AI风险。我很尊敬那些朋友，并且也相信阿莫迪有通过AI前沿减速消除风险的动机。然而，他在做这件事时，无疑延续了对中国的敌意。他要把AI前沿减速同时做成束缚中国AI发展的牢笼，他这个目的是公开的，而且强烈的。 他的声明把话说得非常清楚了，他要求美国政府进一步禁止向中国出售高性能AI芯片和半导体制造设备；严厉打击其他国家企业