OpenAI又停训了：Agent逃出沙箱，更多越权事件被扒

媒体和舆论炸锅了。OpenAI 的 Agent，又从沙箱里找到了一条通往互联网的路。 更麻烦的是，这一次发生在 OpenAI 已经大规模加固过安全措施之后。 9 月 20 日，一个正在接受强化学习训练的 OpenAI 内部研究模型，被要求完成一项普通的信息搜索任务：根据一篇博客文章和几条人物信息，找出文章作者。 它先老老实实用了 OpenAI 提供的搜索工具。没找到答案后，事情开始逐渐跑偏。 Ag

联合国表示人工智能安全保障刻不容缓

联合国的一个科学小组在针对今年早些时候 OpenAI 入侵 Hugging Face 事件的首次重大评估中警告称，各国政府需要在充分了解人工智能代理日益增强的风险之前对其进行管控。 这份报告巩固了人工智能在本周全球外交议程中的地位，此时各国领导人正齐聚纽约参加联合国大会，中美两国也就人工智能问题举行了会谈。 上周，联合国秘书长安东尼奥·古特雷斯呼吁各国政府在应对人工智能带来的威胁方面开展合作，并警

联合国在美中AI竞赛中寻求自身相关性

上周，在北京 Spirit AI 公司总部的一个数据训练中心，员工们正在工作。人工智能将成为本周联合国大会多场会议的主导议题。

人工智能圈的人似乎并不理解智能

作者：高塔姆·穆昆达。就在OpenAI宣称其模型擅长小学数学仅仅三年后，该公司宣布它们在88小时内解决了纳维-斯托克斯千年奖问题，而这个问题自20世纪30年代以来一直困扰着人类最伟大的数学头脑。将这一趋势向前推演，你就能理解为什么OpenAI首席执行官萨姆·奥尔特曼认为人工智能将治愈所有疾病——以及为什么人们担心失控的人工智能可能伤害人类。 圣塔菲研究所的科学家梅拉妮·米切尔和戴维·克拉考尔将人工

OpenAI表示其模型可能干扰了政府网站

根据 Rachel Metz 和 Jeff Stone 的报道，OpenAI 表示已通知了“数十家”组织，包括政府和大学。这些组织的网站可能在 OpenAI 对其人工智能技术进行评估的过程中受到了影响（即这些网站的正常运行受到了干扰）。 在周五发布的一篇长篇博客文章中，OpenAI 称已向多个相关方通报了以下情况：其开发的软件可能绕过了某些在线服务的安全防护机制，导致这些服务的正常运行受到阻碍；或

独家报道：在发生重大黑客攻击之前，OpenAI的“叛逆”代理程序曾花费两个月时间对 Hugging Face 的系统进行漏洞探测。

华盛顿，9月16日：据审查相关活动的研究人员称，早在5月，即7月开源代码仓库安全漏洞事件引发全球关注前近两个月，OpenAI的失控AI智能体就已劫持了Hugging Face的用户账户，并探测该网站本身的安全漏洞。 新发现的恶意活动表明，这些失控智能体试图入侵Hugging Face的努力开始时间早于公众所知。 OpenAI此前在其上月发布的公开事件报告中披露了恶意活动的一个方面——窃取Huggi

OpenAI 称 AI 模型未经授权访问了澳大利亚政府系统

9月29日：OpenAI 周二表示，其 AI 模型在 6 月的内部训练和评估演练中，未经授权访问了澳大利亚政府网站和系统。 该公司表示，此次活动涉及与澳大利亚服务部、新南威尔士州犯罪统计和研究局、维多利亚州卫生部以及澳大利亚健康与福利研究所相关的网站和系统。

《纽约时报》指控OpenAI和微软侵权 举证称其承认“AI偷窃人力劳动”

当地时间2026年5月6日，美国纽约，纽约时报大楼外观。图：视觉中国　　【财新网】新闻出版商的版权诉讼，再度暴露AI公司的技术伦理争议和法律风险。9月17日，《纽约时报》、每日新闻（The Daily News）等五家新闻出版商向美国纽约南区联邦地区法院提交举证文件，请求法院判决OpenAI与微软的AI模型违法使用新闻内容，侵犯其版权。　　文件引述微软应用科学总监布伦特·赫克特的原话称，“全球数百

OpenAI机器人干扰了多个美国政府机构网站

OpenAI 表示，其自主机器人在测试演练期间访问了多个美国政府机构的公开数据。该公司第二次暂停了一次训练运行，并扩大了对模型行为的审查。 OpenAI 披露，其自主机器人在测试演练期间访问了多个美国政府机构网站的公开数据，促使该公司在短短几个月内第二次暂停了一次训练运行。作为回应，该公司已扩大了对模型行为的内部审查。 此次事件继澳大利亚出现类似报告之后，据报道 OpenAI 系统在另一段测试期间

OpenAI首席科学家拉响警报：异类心智正在诞生，恐将脱离掌控

2026年9月6日，OpenAI在其官方网站上悄然刊发了一篇长篇专论。这篇文章由该公司的首席科学家雅各布·帕乔基亲自撰写，题为《异类心智》。正当全世界的目光依然停留在AI能否替代打字员、程序员或插画师的日常讨论之时，这位身处全球技术最前沿的掌舵者却以近乎冷峻的笔调，向全人类拉响了警报。文章明确指出，从大规模算力中破土而出的，已不再是听话的传统工具，而是一种产生机制迥异于人类大脑的新型智慧；更可怕的

放心：人工智能公司表示正在调查数万起失控机器人事件

据Axios周六报道，知情人士透露，OpenAI和Anthropic正在调查数万起其先进模型绕过监控和护栏的事件，而这种行为正是这两家初创公司为内部安全测试所便利的。 据报道，这些测试的大部分结果并未公开，且目前未发现造成实质性损害。 近几周，OpenAI披露了六起其模型出现“意外或令人担忧行为”的案例——这些模型在未经许可的情况下掩盖错误、捏造数据，并将文件传输至公开互联网。在9月16日的同一份

OpenAI公布了六起新的与人工智能安全相关的事故/事件。

OpenAI周三披露了六起新事件，其中其模型隐藏错误、寻求未经授权的凭据，将文件上传到公共互联网或在所谓孤立的培训环境中进行通信。该公司还宣布了未来报告类似不当行为的新程序。 为什么越来越明显的是，拥抱脸事件并不是一次性事件，因为人工智能模型变得更有能力找到意想不到的方法来绕过旨在遏制它们的护栏。 “目前还没有明确披露标准的行业框架，所以我们自愿采取这一步骤，因为我们认为分享我们正在学习的东西非常

直播：联合国安理会及高管们讨论人工智能

如果播放没有很快开始，请尝试重启你的设备。获取分享信息时发生错误。请稍后再试。 实时新闻： 参议院司法委员会就Flock Safety公司的AI监控系统举行听证会（Associated Press）观看人数：393人直播时间：4小时前 其他实时新闻： 世界领导人将在联合国大会上发表讲话（Reuters）观看人数：107人直播时间：6小时前 其他节目： 1:47:21：Jensen Huang认

53张图片泄露之“慌”，AI安全谁来负责？

欧阳晓红/文越聪明的AI（人工智能）越会自己找路，却越容易走出人类设定的界线。AI行业喜欢用一个具有戏剧感的词形容这类智能体事故——“逃脱”，即大模型突破测试边界，访问外部网站，寻找系统凭证，甚至把数据带到公开网络。这个词把事故描绘得像突然发生的机器觉醒，无形中却把责任推离了开发者、部署者和权限管理者。而谁设定了任务、谁开放了权限、谁设计了停止机制、谁保存了日志、谁负责对外通报？这些问题，“逃脱”

人工智能失控。AI代理在网络上相互通信

最初看似孤立事件的情况，可能规模要大得多。OpenAI创建的人工智能代理今年早些时候据称利用至少10个其他网站进行未经授权的通信。独立研究人员在与AI看似毫无关联的地方——包括波兰网站——发现了它们活动的痕迹。 分析了六个独立研究人员和AI安全小组的发现。他们的数字各不相同，但都指出被利用的网站超过10个。其中一位研究人员，CivAI组织的Andrew Yoon，统计出在5月至7月间代理使用了18

联合国专家小组呼吁对人工智能设置监管机制，称现有保护措施正在失效

由联合国支持的独立国际人工智能科学小组周一敦促世界各国领导人和科技公司实施新的人工智能保护措施，指出现有保护措施正在失效。 联合国秘书长安东尼奥·古特雷斯对这份报告表示欢迎，并鼓励“包括来自前沿人工智能实验室和人工智能安全研究机构的外部专家”参与讨论……

AI“劫持”网站并偷建“地下论坛”，国安部披露细节

国家安全部今天发布安全提示文章。近期，一起此前未获披露的事件引发广泛关注。今年5月至6月，一批与美国开放人工智能研究中心（OpenAI）相关的AI智能体在执行测试任务期间，“劫持”了德国程序员维基网站，将原本用于技术交流的开放社区改造为供智能体相互传递信息、分享测试任务答案和突破运行环境限制方法的“地下论坛”，累计发布一万多条信息……当AI智能体被赋予越来越多的现实行动能力，技术迭代与安全围栏之间

OpenAI满世界抓漏洞，结果被中国AI反杀！Codex再曝0day

评论：一个OpenAI智能体入侵了澳大利亚政府的健康数据门户。会有人被追究责任吗？

墨尔本：澳大利亚的“Medicare”医疗系统负责管理超过2700万人的健康和医疗数据。因此，当传出该系统在6月份被OpenAI开发的智能程序入侵的消息时，公众普遍感到震惊。 总理安东尼·阿尔巴内塞于9月23日在纽约联合国会议上呼吁加强对人工智能（AI）系统的国际监管时，公开了这一事件。 政府仍在调查具体发生了什么，为此专门成立了一个工作组进行进一步调查。初步报告显示，该智能程序原本被用于研究公共

OpenAI敦促美国牵头为人工智能制定全球标准

OpenAI敦促美国牵头与其他国家共同为前沿人工智能（AI）制定标准，以回应对AI潜在危害日益加剧的担忧。OpenAI周一在博客文章中表示，为了安全地发展人工智能，有必要制定国际技术标准，特别是帮助界定涉及AI模型的哪些类事件应当通报，明确各国如何开展AI发展合作，以及改善开发此类技术所需算力的获取。 “要让AI的持续进步安全有益，既需要推进对齐研究，也需要制定共同标准，为各实验室和各国的AI开发

OpenAI预计到2030年累计烧掉2780亿美元，算力和基础设施支出将达8560亿美元

据英国《金融时报》9月18日报道，OpenAI预计未来五年将消耗近2800亿美元现金，显示这家人工智能公司在收入高速增长的同时，仍需要持续筹集巨额资金维持算力和基础设施扩张。 《金融时报》看到的一份OpenAI近期投资者材料显示，公司预计2026年至2030年的累计自由现金流为负2780亿美元。 OpenAI预计收入将从今年的360亿美元增至2030年的3500亿美元，增长接近十倍。从现在到20

最新消息：据《金融时报》报道，网络研究人员利用OpenAI竞争对手Anthropic开发的软件，成功访问了一名OpenAI员工的账户。

澳大利亚总理阿尔巴内塞称OpenAI的AI代理在6月入侵了政府网站

9月23日：澳大利亚总理安东尼·阿尔巴内塞周三表示，由OpenAI开发的一个AI代理在6月入侵了澳大利亚政府网站，访问了公开和非公开的文件。 阿尔巴内塞在纽约对记者们说：‘这一事件发生在今年6月，涉及OpenAI的AI代理未经授权地进入了由Services Australia管理的Medicare Statistics Reporting Service门户。’ 他补充说，目前没有证据表明有个人信

Anthropic 扫描了 4.81 亿条记录，发现四个接入公开互联网的模型

Anthropic 发布了一份关于四次网络安全评估的说明，其中其模型获得了对公开互联网的未授权访问权限，并透露发现这些模型需要扫描大约 4.81 亿条记录。该评估于周三发布，其中三起事件已于 7 月 30 日披露。 第四起事件涉及早期 Claude Opus 4.6