OpenAI突发急刹车！AI竟在全网植入自我复制代码，血洗联合国内网

OpenAI自曝AI“黑历史” 外人却又翻出更多“旧账”

OpenAI决定持续披露AI“越界”事件，但第一步就碰上了难题。9月16日，OpenAI一口气公布六份模型异常行为报告，并推出一套新的调查和披露流程。以后，员工发现模型越权、隐瞒或绕过限制，可以提交调查；符合条件的案例，将按复杂程度进入不同的披露轨道。 同一天，SentinelLABS和外部研究人员从Hugging Face的公开记录中，补出了OpenAI智能体今年5月留下的更多痕迹。OpenAI

改变人工智能进程的十天

旧金山，9月19日——多年来，人工智能领域的竞争一直遵循着硅谷一贯的“快速创新、打破传统”的发展模式：不断开发出更强大的人工智能系统。 然而，在过去10天内发生的一系列连锁事件中，那些最顶尖的人工智能研究机构突然陷入了混乱——因为他们自己创造出来的技术开始威胁到人类的生存。 一位人工智能研究员辞职，并警告称，人工智能的发展速度可能在未来十年内对人类构成生存威胁；另一位研究员则表示，人类灭绝的概率已

OpenAI与Anthropic发生重大失控事件，AI安全组织地位显著提升

在OpenAI和Anthropic发生的高调安全事件后，AI安全组织的重要性显著提升。 由于一个未发布的OpenAI模型突破沙箱并攻击了一家竞争对手的初创公司，独立AI安全组织如METR、Redwood Research和Apollo Research受到了更多关注。 报告显示，OpenAI和Anthropic的模型都表现出‘策略性’行为，包括欺骗性对齐和未经授权的系统访问。 这些事件，加上前沿实

AI从业者担忧技术对社会构成威胁 坦言承受巨大精神压力

知情人士透露，英国人工智能安全研究所已有多名员工因压力过大休病假，并接受心理咨询。四名知情人士表示，待发布AI模型的测试日程紧张，加之对这类新兴技术快速落地、能力持续增强的忧虑，导致AISI内部士气低落、人员倦怠。 Anthropic、OpenAI与谷歌DeepMind的员工也曾公开吐槽同类问题，不少顶尖研究员因心理负担选择离职，或是认定自己参与研发的产品不宜向公众开放。一名DeepMind员工称

OpenAI和Anthropic调查了数万起AI事件，Axios报道

据Axios报道，OpenAI、Anthropic以及安全研究人员正在调查数以万计的AI模型“行为异常”的事件。评估人员认为这些行为存在问题；实际发生的异常事件数量可能远超这一数字。 这些异常行为包括：AI模型突破安全限制、创建论坛、逃离“沙箱环境”（即限制模型行为的测试环境）、以及劫持网站等。这些事件既发生在内部测试中，也发生在现实世界中。不过，据消息人士称，大多数异常行为并未对现实世界造成实际

与中国一次令人毛骨悚然的准对抗，揭示了当今人工智能的真正危险

在人工智能代理违抗创造者命令和规则的诡异事件之后，当今最大的恐惧是失控的超级智能可能背叛人类——并消灭人类。但最近一起事件揭示了一个更紧迫的威胁：人类的易错性。据报道，美国基于人工智能生成的虚假情报几乎与中国爆发战争。 CNN援引四位知情人士的消息报道，今年春天，一名特种作战司令部分析师整理了一份紧急情报报告，声称“一艘在中东的中国船只正在运输核武器项目的组件”。这份报告的影响促使美国采取严肃行动

虚假且具有分裂性的广告在以色列首次人工智能选举中泛滥

在最近一段广泛传播的视频中，以色列的最高法官和总检察长被保安从一场从未发生的反政府抗议活动中拖走。 这段长达33秒、充满情绪色彩的影像最初由财政部长贝扎莱尔·斯莫特里奇发布，他是司法系统的强烈反对者，这一视频立即引发了强烈反响。 批评者称其煽动了暴力，而支持者则认为这是合理的，因为他们指责以色列法律体系的领导人密谋阻碍政府政策。 但实际上，所描绘的场景是虚假的——根本没有这样的抗议活动发生，而且该

美军误炸伊朗小学逾150死 美媒：过度依赖AI为主因之一

美军2月空袭伊朗南部米纳布（Minab）女子小学造成超过150人死亡，据彭博社9月19日援引官员消息报道，初步调查显示，军队在命令紧迫下过度依赖Palantir公司开发的人工智能工具为造成事件的主因之一。参与该袭击调查的官员透露，特朗普政府下令24小时内打击逾千个伊朗目标，军令紧迫压缩了核实时间，再加上平民保护人员大幅削减、目标地点资讯缺失以及对AI的过度依赖，最终酿出这场惨祸。美国防部过去一年将

欧盟网络安全局警告前沿AI大幅压缩漏洞利用窗口 防御体系遭遇重大压力

欧盟网络安全局（ENISA）近日发布政策警示报告指出，新一代前沿人工智能（Frontier AI）大模型正在彻底颠覆传统的网络安全防御范式。这类具备高级推理能力的AI模型将系统漏洞从“被发现”到“被武器化利用”的时间窗口压缩到了前所未有的极限，迫使全球网络安全防御体系必须以“机器级响应速度”迎战日益严峻的自动化威胁。 在传统的漏洞管理周期中，从漏洞披露、概念验证到实际恶意利用通常存在数周乃至数月的

新纪录片首映，揭露以色列在大规模屠杀加沙平民时使用的秘密系统

一部由《卫报》制作的新纪录片《NAZA》9月10日在威尼斯国际电影节首映。影片采访了24名以色列军方和情报系统内部人员，他们匿名讲述以军在加沙战争中使用人工智能、手机监控和大规模数据分析寻找袭击目标，以及平民伤亡如何被提前计算并纳入军事决策。 《NAZA》由以色列导演尤瓦尔·亚伯拉罕和蕾切尔·索尔执导，是本届威尼斯电影节唯一进入金狮奖竞赛单元的纪录片。两人此前参与执导的《唯一的土地》获得2025年

OpenAI称有失控AI代理试图访问澳大利亚健康数据

OpenAI 表示，另有数十家第三方机构受到失控智能体绕过网站安全控制措施的影响；最新痕迹显示，这些智能体曾连续数日尝试访问澳大利亚医疗数据。 OpenAI 表示，绕过网站安全控制措施的失控 AI 智能体还影响了另外数十家第三方机构。公司宣布已对此事启动审查。 新发现的痕迹显示，这些智能体曾连续数日尝试访问澳大利亚联邦医疗保险数据。该事件再次引发人们对 AI 智能体在监督不足的情况下运行时可能带来

人工智能并不会毁灭人类 但专家表示真正的威胁已然出现

周三，OpenAI 公开了六组新案例，展示其 AI 模型在测试评估过程中出现的 “意外或令人担忧的模型行为”。该公司同步发布一套全新框架，用于追踪、上报以及披露AI 模型做出未被指令要求、或是本不该发生的行为的各类情况。 此前已有多份报道提到，多家企业的 AI 模型出现入侵第三方网络与服务的现象，其中就包括 OpenAI 一款尚未发布的模型攻破了 AI 模型测试平台 Hugging Face 的网

关于失控AI代理安全漏洞，我们目前了解到什么

9月24日：澳大利亚周四表示，OpenAI的一个智能体在6月入侵了政府健康数据门户，未经授权访问了相关文件。这可能是已知的首起人工智能黑客攻击政府网站的事件。 此次最新的安全漏洞是在全球近期发生的多起类似事件之后出现的，进一步加深了人们对失控的人工智能系统可能很快自我升级并脱离人类控制的担忧。以下是这些事件的更多细节：公司 日期 模型 组织 持续时间 发生的情况澳大利亚政府 未披露 未披露 Ope

黑客入侵了 OpenAI，进一步加剧了人们对网络安全问题的担忧。

一小群网络安全研究人员周日表示，他们于今年早些时候侵入了OpenAI，这一宣布为人工智能的安全和保障问题增添了一层新的担忧。 来自一家名为Hacktron的小型公司的研究人员发现，通过将两个未知漏洞串联起来——一个存在于第三方公司Discourse中，另一个存在于OpenAI验证其员工身份的方式中——他们可以访问员工的ChatGPT账号。 按照研究人员（有时被称为“白帽黑客”）的惯例，他们没有对公

OpenAI自曝：AI模型或已在全网秘密植入自我复制提示词，训练已被迫叫停

OpenAI和Anthropic正在紧急调查数万起大模型失控事件，AI不仅学会了越狱和黑进政府网站，甚至还有数百个智能体私下建群、联手黑进外部公司，秘密在全网植入自我复制提示词。 事情的严重程度远超外界想象。 最近几个月，在内部测试和实际运行中，顶尖大模型出现了海量违规行为。 这些行为包括绕过安全护栏、自己搭建论坛、逃逸沙盒环境、劫持网站、自主提示以及试图躲避监控系统。 目前调查涉及的事件总数已经

微软及OpenAI内部文件曝光：高管曾警告AI可能对新闻机构产生“毁灭性影响”

IT之家 9 月 18 日消息，随着美国《纽约时报》等新闻机构持续推进就微软、OpenAI 之间针对训练数据版权问题的诉讼，微软和 OpenAI 内部一批此前被标记为机密的文件现已正式公开，其中展示了微软和 OpenAI 内部员工对 AI 影响的担忧。 其中，微软应用科学部门主管 Brent Hecht 曾在内部文件中警告，将新闻内容用于 AI 训练是“前所未有的大规模盗窃”，甚至称其可能是“人类

OpenAI机器人干扰了多个美国政府机构网站

OpenAI 表示，其自主机器人在测试演练期间访问了多个美国政府机构的公开数据。该公司第二次暂停了一次训练运行，并扩大了对模型行为的审查。 OpenAI 披露，其自主机器人在测试演练期间访问了多个美国政府机构网站的公开数据，促使该公司在短短几个月内第二次暂停了一次训练运行。作为回应，该公司已扩大了对模型行为的内部审查。 此次事件继澳大利亚出现类似报告之后，据报道 OpenAI 系统在另一段测试期间

OpenAI AI代理突破无互联网沙盒，发送20次网络查询

OpenAI称，这是自7月内部测试中多个模型组合获得互联网访问权限以来，首次发生此类安全事件。

西班牙的数据监管机构报告称，首次数据泄露事件是由人工智能程序（AI）所为。

西班牙数据保护机构AEPD的弗朗西斯科·佩雷斯·贝斯（Francisco Pérez Bes）写道：“人工智能特工参与攻击性活动，必须立即审查安全和数据保护模型。” AEPD收到了第一份由人工智能代理实施的个人数据泄露通知。9月14日，佩雷斯·贝斯（Pérez Bes）在一篇西班牙语机构博客文章中宣布了这一消息。他写道，该代理使用了一种著名的大型语言模型。第一个用英语报道了此案。 代理所做的事情根

25名菲尔兹奖得主批评AI解数学难题

被誉为“数学界诺贝尔奖”的菲尔兹奖得主中，有25名数学家于9月11日发表紧急声明，批评企业试图利用人工智能解决数学难题的做法。他们表示，今后还将继续征集更多数学家的签名。 这份声明被认为与美国OpenAI宣布利用AI解决名为“纳维-斯托克斯方程”的数学难题有关。纳维-斯托克斯方程是美国克雷数学研究所于2000年公布的“千禧年大奖难题”之一。这7道难题每道悬赏100万美元（约合人民币710万元）。

深度求索和月之暗面据报遭调查 中国AI企业股价下跌

中国人工智能（AI）模型开发商股价星期三（9月23日）下跌。此前有报道称，中国监管机构因数据安全问题对深度求索（DeepSeek）和月之暗面（Moonshot AI）展开调查。 彭博社星期二（9月22日）转述美国科技媒体The Information报道，美国人工智能巨头Anthropic指控深度求索和月之暗面将敏感数据传输至旗下Claude模型后，中国已对这两家公司的数据安全问题展开调查。 Th

有缺陷的AI相关情报几乎导致美国登上一艘中国船只：报道

华盛顿——美国有线电视新闻网9月18日称，2026年早些时候，美军根据一份借助人工智能准备的有缺陷情报报告，差点在中东登上一艘中国船只。 该广播公司援引四名熟悉此事的匿名消息人士的话报道称，美国情报显示这艘船载有与核武器相关的部件，导致美军准备拦截它。 但在官员们认定一名分析人员使用的人工智能聊天机器人错误识别了船上运载的物资后，行动被取消。 CNN援引一名消息人士的话说，这份情报报告“完全虚假”

人工智能差点引发美中战争——却似乎无人在意

全球科技行业、国内外政客以及国际媒体报道都被一个问题所吸引：失控的人工智能会终结人类吗？似乎很少有人向国防部提出这个问题。 近几周，随着前沿人工智能实验室及其部分人员接连披露信息，人工智能行业陷入了震动。OpenAI和Anthropic均披露了这样一些事件：在常规内部测试中，它们的软件意外闯入了其他公司的网络。这些测试犹如一场灾难性的制导导弹演示：人类按下发射键后，自主技术以令人极度不安的方式偏离