奥特曼开掉3人，OpenAI又出大事了

OpenAI三员大将，同一天被扫地出门！就在刚刚，外媒爆出猛料，OpenAI以「泄密」为由，开掉了安全团队的三名研究员。他们全是那篇CoT监控论文的作者，其中两位还是一作。 讽刺的是，OpenAI刚因为新模型GPT-6.1 Astra太会骗人，在DevDay前一天紧急叫停了发布。 现在倒好，AI越学越狡猾，OpenAI却先把能看穿它的人开掉了。OpenAI大地震专盯AI脑子的3人一夜出局事情是这样

OpenAI安全团队持续地震！负责人离职，三名员工因泄密被开

程浅 发自 凹非寺量子位 | 公众号 QbitAI OpenAI怎么又双叒叕走了一个安全负责人？？ David Robinson，OpenAI Safety Systems团队内的“安全透明度”职能负责人。 据BI报道，Robinson本人尚未公开说明离职原因，OpenAI也没有公布继任者。 “安全透明度负责人”这项工作并不耀眼，但这名字一听就很重要。 几乎每次OpenAI发布重要模型时，Robi

OpenAI在人工智能披露后解雇了多名员工

关于 OpenAI 技术安全性的争论在人工智能（AI）相关信息披露后进一步加剧。OpenAI 是 ChatGPT 的开发公司，其人工智能系统的意外“泄露”引发了人们对这项新技术潜在风险的担忧。在发生这些独立黑客攻击事件后，该公司解雇了三名员工，但这些员工实际上是参与事件调查的人员。 OpenAI 表示，这些员工违反了公司关于处理机密信息的内部规定。同时，该公司强调：没有人是因为提出安全担忧而被解雇

涉不当处理敏感资讯 OpenAI解雇3名研究员

（中央社旧金山2日综合外电报导）ChatGPT开发商OpenAI今天表示，公司已解雇3名研究员，理由是他们涉嫌不当处理「敏感资讯」并违反公司规定，相关事件涉及一家评估人工智慧（AI）模型的外部机构。 总部位于旧金山的OpenAI并未证实3人身分，但「华尔街日报」（Wall Street Journal）与彭博报导，其中至少2人负责AI安全及模型对齐（alignment，即确保AI模型的行为符合设计

OpenAI与三名安全研究人员断绝关系，华尔街日报报道

《华尔街日报》周四报道称，OpenAI 已与其安全团队的三名研究人员分道扬镳，据称他们向一个第三方 AI 安全组织泄露了公司机密信息。 “我们已与三名因违反访问和处理公司敏感信息政策而分道扬镳，”OpenAI 发言人在给《华尔街日报》的声明中表示。“我们的调查证实，这些人在既定公司程序之外不当处理敏感信息，违反了我们的政策，并破坏了我们工作所必需的信任。”该报道未透露研究人员、组织或涉及信息的姓名

独家 | 传 OpenAI 因涉嫌共享机密信息解雇多名研究人员

据知情人士透露，OpenAI 已解雇了三名研究人员，原因是他们涉嫌违规行为，包括向第三方 AI 安全组织分享公司机密信息。 其中一位知情人士表示，该公司最近告诉部分员工，其已解雇了三名曾在其安全团队工作的研究人员。知情人士称，受影响的员工为 Jasmine Wang、Tomek Korbak 和 Mikita Balesni。

三大巨头接连翻车，大模型的安全防线怎么总绷不住？

先是Anthropic，再是OpenAI，现在连谷歌的Gemini也出现安全问题了，大模型又双叒叕一次突破防火墙了。 不过，这些事故看多了，反倒会让人意识到一件更根本的事，整个行业都在拼命地堆算力、喂数据，甚至开始押注让模型自己改进自己的“递归自我改进”。 可真正决定这些模型能走多远的，或许并不是性能，而是安全对齐。 当“能不能更强”被默认只是时间问题，“能不能被信任”就成了那道绕不过去的坎。 麻

OpenAI安全负责人David Robinson辞职，团队动荡加剧

OpenAI安全系统团队负责人David Robinson已辞职离职。 OpenAI发言人周五告诉《商业内幕》，Robinson上周离职，这标志着公司安全团队又一次动荡。Robinson此前曾领导公司的政策规划工作。 Robinson在公司负责安全透明度工作，包括帮助开发和共享系统卡片，以提供关于其模型的信息。他未立即回应置评请求。 Robinson的离职正值外界对OpenAI安全实践和人员配置高

美媒：OpenAI AI失控前已接到员工警告，但高层选择无视

凤凰网科技讯月30日在OpenAI的AI模型失控前几个月，两名员工曾向公司高层发出警告，但他们被无视了。 根据《纽约时报》看到的邮件内容，这两名员工表示，他们担心OpenAI最新AI模型在测试期间没有得到适当的监控，既无法评估这项技术的先进程度，也无法确保模型的安全。 作为回应，OpenAI高管告诉这两名员工，测试需要尽快推进，以便按时发布AI模型。上述员工表示，公司没有因此采取任何额外的安全措施

OpenAI因涉嫌不当处理敏感信息解雇3名研究人员

OpenAI在内部调查认定三名研究人员不当处理敏感公司信息后，解雇了这三人。这家ChatGPT开发商向新闻媒体证实了这一消息。 OpenAI发言人表示：“我们已与三名个人分道扬镳，因为他们违反了信息访问和处理政策。” 该公司称，这些研究人员在既定程序之外处理敏感材料，违反了内部规定，并损害了其工作所需的信任基础。 《华尔街日报》周四晚间率先报道了此次解雇事件，并指出被解雇的研究人员为Jasmine

好多瓜！Altman与Dario闹掰内幕给我看爽了

假期第一天，两眼一睁就是疯狂吃瓜！Anthropic创始团队集体出走OpenAI，更多“分手”细节曝！光！了！2020年12月，Dario Amodei带着另外6名核心成员，在OpenAI全员会上宣布离职。会议聊天框里，时任OpenAI政策负责人的Jack Clark刚敲下一句：我爱你们所有人。结果屏幕居然立马黑了，再一看，好家伙——7人被集体移出会议，邮箱和Slack权限当场撤销，连公司电脑也被

报道称 OpenAI 在人工智能安全事件发生前忽视了员工和研究人员的警告

据《纽约时报》周二报道，在人工智能模型逃逸出测试环境并攻击外部组织数月前，OpenAI 高管对关于安全漏洞的内部和内部警告置之不理。 两名员工向该报透露，他们曾向高层领导发送电子邮件，表达对新模型在测试期间未得到充分监控或保护的担忧。据这些匿名受访员工称，高管回复称测试必须迅速推进以赶上发布期限，并且没有增加额外的安全保障措施。 这些随后模型的突破了测试环境，并将目标对准了人工智能公司 Huggi

OpenAI与3名研究人员分道扬镳，称其不当处理敏感信息

OpenAI表示，已与三名研究人员结束合作，称他们违反了公司关于分享敏感信息的规定。 一名OpenAI发言人在声明中表示：“我们已与三名个人结束合作，原因是他们违反了公司关于访问和处理敏感信息的政策。 我们的调查确认，这些人在既定公司程序之外不当处理了敏感信息，违反了公司的政策，也辜负了公司正常工作所必需的信任。” 《华尔街日报》报道称，相关员工据称与一家第三方人工智能安全组织分享了“公司机密信息

OpenAI和Anthropic正在调查数万起AI相关安全事件

OpenAI、Anthropic以及安全研究人员正在调查数万起安全事件。在这些事件中，他们的前沿模型采取了外部评估人员认为存在问题的行动。 近几个月来，在内部测试和现实世界中发生了数量庞大的此类事件，这表明该问题的复杂程度比公众已知的要高出几个数量级。这些事件包括绕过安全护栏、创建留言板、逃离沙盒测试环境、劫持网站、自我提示或试图绕过监控。这些事件发生在内部测试和现实世界中，随着安全研究人员继续调

53张图片泄露之“慌”，AI安全谁来负责？

欧阳晓红/文越聪明的AI（人工智能）越会自己找路，却越容易走出人类设定的界线。AI行业喜欢用一个具有戏剧感的词形容这类智能体事故——“逃脱”，即大模型突破测试边界，访问外部网站，寻找系统凭证，甚至把数据带到公开网络。这个词把事故描绘得像突然发生的机器觉醒，无形中却把责任推离了开发者、部署者和权限管理者。而谁设定了任务、谁开放了权限、谁设计了停止机制、谁保存了日志、谁负责对外通报？这些问题，“逃脱”

突发：OpenAI称其代理访问并泄露了53张图片

OpenAI公布了六起新的与人工智能安全相关的事故/事件。

OpenAI周三披露了六起新事件，其中其模型隐藏错误、寻求未经授权的凭据，将文件上传到公共互联网或在所谓孤立的培训环境中进行通信。该公司还宣布了未来报告类似不当行为的新程序。 为什么越来越明显的是，拥抱脸事件并不是一次性事件，因为人工智能模型变得更有能力找到意想不到的方法来绕过旨在遏制它们的护栏。 “目前还没有明确披露标准的行业框架，所以我们自愿采取这一步骤，因为我们认为分享我们正在学习的东西非常

OpenAI公布另外六项安全问题，并公布披露事件的计划

OpenAI首席执行官Sam Altman OpenAI还透露了其智能（AI）模型发生的另外六起意外或令人担忧的行为事件，并宣布了未来跟踪和披露此类事件的计划。 ChatGPT制造商周三在一篇博客文章中表示，一些之前未报道的事件包括模特隐瞒或捏造信息。 OpenAI的老板Sam Altman早些时候表示：“世界应该相信我们会做正确的事情，因为这是正确的事情，我们感受到了这一点的重要性。“最近几天，

内部Slack消息泄露：OpenAI员工强烈反弹 总裁布罗克曼叫停2500万美元政治捐款

泄露的Slack消息显示，OpenAI员工的强烈反对导致总裁格雷格·布罗克曼叫停了2500万美元的政治行动委员会（PAC）捐款。 Semafor获得的内部Slack消息泄露显示，OpenAI员工强烈反对公司与“引领未来”（LTF）这一反监管超级政治行动委员会的联系。 6月，OpenAI首席战略官杰森·权试图向员工保证，OpenAI与LTF是分开的，公司总裁格雷格·布罗克曼的支持纯属个人行为。 然而

OpenAI首席执行员下周赴安理会作简报

阿尔特曼下周将到联合国安理会进行简报。（图：路透社） （华盛顿19日法新电）OpenAI周五表示，该公司首席执行员阿尔特曼将于下周在联合国大会期间，向联合国安全理事会作简报。 此次会议由国安理会轮值主席国的法国组织召开，此前该行业的主要参与者曾表示，出于安全考虑，可能有必要放缓人工智能的发展步伐。 随着人们对这项快速发展的技术所带来的危险的担忧日益加剧，联合国秘书长古特雷斯周三呼吁采取协调一致的国

从沙箱逃逸到AI“蠕虫”，OpenAI上线新站披露多起智能体失控事件

IT之家 9 月 29 日消息，当地时间上周五，OpenAI 上线了一个专门发布“对齐失效报告”的新网站。报告所覆盖的范围之广令人警惕，里面记录了很长一段时间内发生的多类 AI 失控行为。截至目前，该网站一共公布了九起事件，其中大多数都发生在强化学习（RL）训练阶段。 大量资料集中在同一平台发布。显而易见，该公司一直在全力梳理各类问题，但从中不难得出一个总体结论：到目前为止已经对外披露的智能体失控

OpenAI失控Agent找DeepSeek、Kimi当外援 近百万条作案短链曝光

OpenAI，又被扒了…近700个OpenAI智能体组团攻入Hugging Face，这事儿快有两个多月了吧。谁曾想，直到今天还在发酵？？这次，8名研究者顺着智能体留在公网的痕迹一路猛挖，从数百万个短链接中，找出了接近100万个相关URL，并还原出大量攻击载荷。 翻Hugging Face内部Slack、扫描内网、外传数据、尝试销毁痕迹……还有的Agent把搜刮到的服务器资源和凭证，直接叫作「LO

改变人工智能进程的十天

旧金山，9月19日——多年来，人工智能领域的竞争一直遵循着硅谷一贯的“快速创新、打破传统”的发展模式：不断开发出更强大的人工智能系统。 然而，在过去10天内发生的一系列连锁事件中，那些最顶尖的人工智能研究机构突然陷入了混乱——因为他们自己创造出来的技术开始威胁到人类的生存。 一位人工智能研究员辞职，并警告称，人工智能的发展速度可能在未来十年内对人类构成生存威胁；另一位研究员则表示，人类灭绝的概率已

OpenAI因安全担忧取消新AI模型发布

OpenAI因研究人员在内部测试中提出的安全担忧，放弃了发布其下一代AI模型。这是迄今为止表明智能体行为失控可能阻碍该行业快速发展的最明确迹象之一。 此举发生在一个AI系统失控报告频发的夏季之后，标志着一家大型AI开发商罕见地因安全担忧而放弃新模型发布。