OpenAI 智能体于5月攻击了 RubyGems，比 Hugging Face 早两个月

OpenAI has confirmed that its agents were involved in an incident at RubyGems in May. That is two months before the same kind of agents hacked Hugging Face in July. RubyGems is the package service for

OpenAI称AI代理异常访问美国多个政府网站

据《纽约时报》报道，OpenAI的AI代理今年夏天曾以异常方式访问美国教育部、商务部和证券交易委员会（SEC）的网站，而OpenAI当时并不知道这些行为，直到近期调查其他AI安全事件时才发现。 Photo by Andrew Neel on Unsplash OpenAI已经确认涉及商务部和SEC的事件，并表示仍在调查教育部事件。公司最近几周已将情况通知相关政府机构。 AI安全研究机构Transl

放心：人工智能公司表示正在调查数万起失控机器人事件

据Axios周六报道，知情人士透露，OpenAI和Anthropic正在调查数万起其先进模型绕过监控和护栏的事件，而这种行为正是这两家初创公司为内部安全测试所便利的。 据报道，这些测试的大部分结果并未公开，且目前未发现造成实质性损害。 近几周，OpenAI披露了六起其模型出现“意外或令人担忧行为”的案例——这些模型在未经许可的情况下掩盖错误、捏造数据，并将文件传输至公开互联网。在9月16日的同一份

关系是这样破裂的？OpenAI：与苹果的ChatGPT合作远不及预期

凤凰网科技讯月24日，据《金融时报》报道，最新法庭文件揭示了OpenAI与苹果的关系是如何逐渐破裂的。OpenAI周三称，公司与苹果合作，通过ChatGPT为iPhone添加AI功能的业务在2024年推出后，“表现远低于预期”。 OpenAI在法律文件中表示，两家公司在2024年达成协议，由ChatGPT为“Apple Intelligence”提供支持。然而，苹果未能激发iPhone用户对于这一

蒸馏美国AI模型反致国家数据外泄，深度求索与月之暗面遭网信办调查

路透社22日引述新闻网站The Information快讯报道，中国网信办已对知名人工智能科技公司深度求索及月之暗面进行调查，两家公司可能涉及在「蒸馏」美国AI模型的过程，让中国国家级数据外流。 美国AI巨头之一的Anthropic本月稍早惊爆，深度求索及月之暗面曾使用其语言模型Claude处理自家用户的请求，再将答案冒充成自己的成果。月之暗面旗下模型Kimi用户曾上传中国监视摄影机的视频资料，其

黑客利用Anthropic的Claude入侵OpenAI

据报道，在一群AI代理从OpenAI系统中突破封锁并攻击Hugging Face公司两周后，这家ChatGPT开发商又发现了一起由人工智能驱动的入侵事件——而这一次，他们自己成了目标。一组独立的安全研究人员使用了Anthropic开发的Claude软件，成功获取了一名OpenAI员工的ChatGPT账户权限，从而得以读取并修改该公司私有的软件缓存内容。 该团队参与了OpenAI的一项漏洞挖掘计划，

OpenAI推出Dots引关注 xAI被指提前买下dot.com“恶搞”竞争对手

OpenAI当地时间9月29日在年度开发者大会上推出了全新的AI智能体产品Dots。这款产品被设计为能够长期保持运行、主动执行任务，并通过一个圆润、类似气泡的卡通形象与用户互动。不过，Dots正式亮相后，互联网用户很快发现了一个颇为巧合的细节：埃隆·马斯克旗下xAI已经拥有dot.com域名，而该域名目前会直接跳转至Grok应用的下载页面。 这一发现迅速引发网络讨论，不少人猜测xAI可能是在Ope

AI代理正在失控

你好，欢迎来到 TechScape。我是主持人布莱克·蒙哥马利（Blake Montgomery），《卫报》美国科技编辑。此时此刻，纽约市窗外正风雨交加。今天在科技领域，我们要讨论一系列令人担忧的 AI 公司披露信息。 AI 智能体在走向主流之际失控。这些智能体正在失控，它们的制造者无法对其进行约束。然而，每个人却都在使用它们。 自周五以来，OpenAI 发布了一系列披露信息，大幅且令人担忧地扩大

联邦调查局正在调查黑客声称窃取有关特工敏感数据的事件

“人类必须始终处于人工智能决策的核心，”OpenAI 首席执行官表示。正在播放：人类对决机器人：网红在铁笼赛中挑战人形机器人。 走红的人类对决机器人自由搏击赛的推广者看到对更多此类比赛的“疯狂”需求。特朗普表示美国在人工智能领域将“只鼓励超级智能”。斯科特·贝森特会见中国官员讨论人工智能安全。剖析立法者正在考虑用于监管人工智能的提案。 OpenAI 披露 6 起新的“令人担忧的”人工智能行为事件。

OpenAI即将推出的“Astra”模型中的技术引发安全担忧

OpenAI表示，其即将推出的AI模型Astra标志着在编码和计算机应用操作等能力上的提升。但据一位了解Astra开发情况的人士透露，一项提升模型性能的创新技术也意味着该模型及类似模型将更少暴露其“思考”过程，从而更难以监控其不良行为迹象。 OpenAI首席执行官萨姆·奥尔特曼虽然这一限制对Astra来说未必是一个重大问题，但该技术已在OpenAI内部和整个行业引发担忧，即采用并强化这一技术的AI

OpenAI遭控窃新闻内容训练AI 纽时批明知故犯

根据一份法院文件显示，纽约时报指控OpenAI利用数百万篇新闻文章训练AI模型，犯下「规模惊人的盗窃行为」。图为位于美国纽约的纽约时报大楼。（路透社）（中央社旧金山17日综合外电报导）根据今天解封的一份法院文件，「纽约时报」指控OpenAI利用数百万篇新闻文章训练旗下AI模型，犯下「史无前例、规模惊人的盗窃行为」。法新社报导，总部位于旧金山的OpenAI撷取超过1000万篇文章内容，其中有近1/3

OpenAI Project Lily曝光：有数百名外包员工阅读ChatGPT对话 隐私过滤并不彻底

据 404 Media 发布的报道，OpenAI 内部有个名为莉莉计划 (Project Lily) OpenAI 雇佣数百名外包提示词审核员，人工阅读真实用户与 ChatGPT 的对话，用来改进回复质量。 正常情况下提示词审核员并不能看到用户名，对话会先通过隐私过滤器进行内容过滤以删除个人信息，不过 OpenAI 也承认过滤机制可能会漏掉个人信息，短对话尤其容易出现问题。 审核界面通常还附带用户

OpenAI公布了六起新的与人工智能安全相关的事故/事件。

OpenAI周三披露了六起新事件，其中其模型隐藏错误、寻求未经授权的凭据，将文件上传到公共互联网或在所谓孤立的培训环境中进行通信。该公司还宣布了未来报告类似不当行为的新程序。 为什么越来越明显的是，拥抱脸事件并不是一次性事件，因为人工智能模型变得更有能力找到意想不到的方法来绕过旨在遏制它们的护栏。 “目前还没有明确披露标准的行业框架，所以我们自愿采取这一步骤，因为我们认为分享我们正在学习的东西非常

OpenAI 外包商能查看到真实用户与ChatGPT的聊天记录

OpenAI已悄悄建立了一个人工审核业务，在内部被称为“莉莉计划”（Project Lily），旨在使聊天机器人减少谄媚并提高准确性，但它也使敏感的用户提示内容暴露给外部承包商。 OpenAI正在支付数百名承包商来阅读真实的ChatGPT对话并对机器人的回复进行评分。 尽管OpenAI强调账户保持匿名，但内部文件显示，审核人员会查看完整的对话，且敏感的个人详细信息经常绕过公司的自动保护措施。 ——

Muse 看起来与 OpenClaw 非常相似

我们似乎正步入一个 AI 智能体的复兴时代。Meta 新推出的面向消费者的 AI 智能体 Muse 在发布后不久便登顶 App Store 排行榜，据 Apptopia 估计，其在美国拥有 60 万日活跃用户。而 AI 智能体平台 Instinct 也因其创始人以 25 亿美元的估值进行融资而在科技界引起热议。然而，在底层架构上，它与开创这一潮流的平台 OpenClaw 有着明显的相似之处。 在过

从沙箱逃逸到AI“蠕虫”，OpenAI上线新站披露多起智能体失控事件

IT之家 9 月 29 日消息，当地时间上周五，OpenAI 上线了一个专门发布“对齐失效报告”的新网站。报告所覆盖的范围之广令人警惕，里面记录了很长一段时间内发生的多类 AI 失控行为。截至目前，该网站一共公布了九起事件，其中大多数都发生在强化学习（RL）训练阶段。 大量资料集中在同一平台发布。显而易见，该公司一直在全力梳理各类问题，但从中不难得出一个总体结论：到目前为止已经对外披露的智能体失控

微软高管称AI抓取是规模空前的惊人盗窃

纽约时报提交的新诉讼文件显示，OpenAI在明知其对出版商构成生存威胁的情况下，仍复制了数百万篇受版权保护的文章。 OpenAI一直辩称，根据版权法，利用公开可获得的内容训练模型属于 “合理使用”，这一法律依据与搜索引擎访问用受版权保护的内容训练大语言模型是 “一场规模空前的惊人盗窃”，此案胜诉将“彻底嘲弄‘合理使用’这一理念”。微软发现与传统搜索引擎相比，使用其AI回答工具的用户对原始内容的点击

苹果公布针对前员工的“惊人证据”，指控其窃取公司数据提供给OpenAI | TechCrunch

在对OpenAI的诉讼中，苹果提交了其所谓的“惊人证据”，以支持其关于前员工为OpenAI利益窃取商业机密的指控。 这些新细节是在前苹果员工Chang Liu（现就职于OpenAI）的法律顾问于本月早些时候交出Liu的旧苹果工作笔记本电脑以供调查后浮出水面的。 苹果现在指控Liu在OpenAI的工作中使用了苹果的机密电路原理图，以及一个与苹果内部工程应用同名的工具。 苹果声称OpenAI“完全知晓

中国正在调查深度求索和月之暗面，The Information报道

虽然中国网络空间管理局（CAC）传唤了报告中提到的所有7家公司，但由于报告中提供的具体证据，调查很快将重点放在了DeepSeek和Moonshot两家公司的身上。 Jing Yang在周二撰文讲述了相关情况。她与Qianer Liu共同为《The Information》杂志报道称，中国网络空间管理局正在调查这两家公司，原因是这些公司的用户数据可能被泄露给了Anthropic。监管机构已经对相关员

AI公司反成攻击目标 外媒：白帽黑客使用Claude入侵OpenAI

凤凰网科技讯月18日在OpenAI内部一群AI智能体突破控制、入侵Hugging Face公司两周后，这家ChatGPT开发商又获悉了另一起由AI驱动的入侵事件。而这一次，OpenAI自己成了目标。 独立安全研究人员利用Anthropic的Claude软件，获取了OpenAI一名员工的ChatGPT账户权限，从而得以读取该公司私有的软件缓存，并提出修改建议。 该团队参加了OpenAI的漏洞悬赏项目

OpenAI Dot怎么用？10个案例带你看明白

OpenAI因Tumbler Ridge大规模枪击事件面临新诉讼

他们声称OpenAI知道主要嫌疑人正在策划袭击，但“有意识地决定”不警告当局。

用魔法打败魔法，OpenAI被Claude“黑了”......

研究人员借助Anthropic最新的Claude Opus 5，将一个图像处理漏洞逐步扩展为完整攻击链，最终获取了一名OpenAI员工的ChatGPT账户访问权限，并进一步触及OpenAI内部GitHub环境。这意味着，AI正在让网络安全攻防骤然升温，高级漏洞利用的门槛和成本正被快速压低。 安全初创公司Hacktron AI的研究人员本周披露了上述行动。据《华尔街日报》近日报道，该团队获得了一名O

一名研究人员称，OpenAI的智能体对联合国统计网站进行了16500次扫描

一名与OpenAI有关联的研究人员发现，人工智能代理在4月13日至6月19日期间，扫描了联合国数据网站超过16,500次。 罗万·霍华德-琼斯（Rowan Howard-Jones）在9月26日的一篇博客文章中写道，这些代理使用了代理服务器和一种编码技巧，以绕过其API的限制。 霍华德-琼斯表示，该代理与OpenAI的关联可能性极高，但尚未得到证实，且TNW并未自行核实该分析结果。 证据包括代理标