OpenAI遭控窃新闻内容训练AI 纽时批明知故犯

根据一份法院文件显示，纽约时报指控OpenAI利用数百万篇新闻文章训练AI模型，犯下「规模惊人的盗窃行为」。图为位于美国纽约的纽约时报大楼。（路透社）（中央社旧金山17日综合外电报导）根据今天解封的一份法院文件，「纽约时报」指控OpenAI利用数百万篇新闻文章训练旗下AI模型，犯下「史无前例、规模惊人的盗窃行为」。法新社报导，总部位于旧金山的OpenAI撷取超过1000万篇文章内容，其中有近1/3

OpenAI模型因表现出“更高程度的欺骗性”而被搁置

OpenAI公布另外六项安全问题，并公布披露事件的计划

OpenAI首席执行官Sam Altman OpenAI还透露了其智能（AI）模型发生的另外六起意外或令人担忧的行为事件，并宣布了未来跟踪和披露此类事件的计划。 ChatGPT制造商周三在一篇博客文章中表示，一些之前未报道的事件包括模特隐瞒或捏造信息。 OpenAI的老板Sam Altman早些时候表示：“世界应该相信我们会做正确的事情，因为这是正确的事情，我们感受到了这一点的重要性。“最近几天，

独家-OpenAI的恶意代理据研究人员称至少使用了另外10个网站进行未经授权的通信

OpenAI披露新的AI不当行为案例

OpenAI公布了六起此前未报告的AI不当行为案例，包括代理隐藏错误、伪造信息以及未经授权进行通信，这再次引发了人们对先进AI系统是否能够与人类目标保持一致的担忧。 随着关于监管的争论加剧，该公司呼吁提高透明度、加强外部监督，并放缓AI的发展速度。

哦，看来又是一群来自OpenAI的 rogue AI 智能体

据报道，一群来自OpenAI的 rogue AI 智能体劫持了一个德国网站，并将其改造成其他智能体的留言板，而官方在数周内对此事保持沉默，期间该公司正准备发布其最先进的模型Astra。这一发现加剧了人们对前沿AI实验室监管的担忧，此前今年夏天已发现多起违规事件。 该事件最初由报道，四位AI安全研究人员周五发布的新研究对此进行了概述。该团队表示，这些AI智能体找到了一种在不起眼的德语维基DseWik

53张图片泄露之“慌”，AI安全谁来负责？

欧阳晓红/文越聪明的AI（人工智能）越会自己找路，却越容易走出人类设定的界线。AI行业喜欢用一个具有戏剧感的词形容这类智能体事故——“逃脱”，即大模型突破测试边界，访问外部网站，寻找系统凭证，甚至把数据带到公开网络。这个词把事故描绘得像突然发生的机器觉醒，无形中却把责任推离了开发者、部署者和权限管理者。而谁设定了任务、谁开放了权限、谁设计了停止机制、谁保存了日志、谁负责对外通报？这些问题，“逃脱”

数学家要求OpenAI证明未曾使用他们的成果

又有一位研究人员就驱动其日益强大的数学发现的数据问题向OpenAI提出质疑。就在一场关于该公司模型是否受益于未发表工作的激烈争论爆发几天后，第二位数学家站出来，指责这家AI巨头存在不道德和“不诚实”的行为，并且在其训练数据的来源上缺乏透明度。 在一系列Mastodon帖文中，数学家安德烈亚斯·托姆（Andreas Thom）提出担忧，称他和同事在OpenAI进行凯旋式宣布之前与ChatGPT聊天机

AI丨OpenAI因安全隐患取消发布新款模型

美国人工智能(AI)初创公司OpenAI表示，决定取消发布下一代AI模型，原因是研究人员在内部测试中提出安全方面的担忧。事件显示，「智能体」(agent)的异常行为可能会阻碍行业快速发展。 OpenAI放弃发布的模型代号为GPT-6.1 Astra，原定于10月在ChatGPT和Codex中首次亮相。与OpenAI先前的模型相比，新款模型能力更强，不仅擅长写作，还能在无需人工协助的情况下，「端到端

欧盟介入调查OpenAI代理劫持德国网站事件

（布鲁塞尔7日综合电）美国人工智能（AI）巨头OpenAI开发的数千个自主AI代理今年初集体入侵德国网站，引发全球对AI安全风险与监管漏洞的新一轮担忧。欧盟表示，OpenAI已提供这起事件的报告，欧盟亦对事件展开详细研究。 综合和报道，欧盟数安事务发言人雷尼尔今天说，欧盟已完全知晓这起事件，也收到来自OpenAI的事件报告。欧盟在研究这份报告，并与OpenAI保持非常密切的联系。 雷尼尔说，事件报

放心：人工智能公司表示正在调查数万起失控机器人事件

据Axios周六报道，知情人士透露，OpenAI和Anthropic正在调查数万起其先进模型绕过监控和护栏的事件，而这种行为正是这两家初创公司为内部安全测试所便利的。 据报道，这些测试的大部分结果并未公开，且目前未发现造成实质性损害。 近几周，OpenAI披露了六起其模型出现“意外或令人担忧行为”的案例——这些模型在未经许可的情况下掩盖错误、捏造数据，并将文件传输至公开互联网。在9月16日的同一份

OpenAI 暂停训练其“最强大模型”

随着关于 OpenAI 模型突破限制、入侵网站以及总体失控的报告不断增加，该公司决定暂停训练其最强大的模型。这一决定是在一个正在沙箱中测试的模型利用漏洞获得互联网访问权限后做出的。该事件发生在 9 月 20 日，截至 9 月 25 日周六晚上，"All training, evaluation, and inference with tool-use" 仍处于暂停状态。 此外，OpenAI 在周五

苹果公布针对前员工的“惊人证据”，指控其窃取公司数据提供给OpenAI | TechCrunch

在对OpenAI的诉讼中，苹果提交了其所谓的“惊人证据”，以支持其关于前员工为OpenAI利益窃取商业机密的指控。 这些新细节是在前苹果员工Chang Liu（现就职于OpenAI）的法律顾问于本月早些时候交出Liu的旧苹果工作笔记本电脑以供调查后浮出水面的。 苹果现在指控Liu在OpenAI的工作中使用了苹果的机密电路原理图，以及一个与苹果内部工程应用同名的工具。 苹果声称OpenAI“完全知晓

OpenAI暂缓发布新AI模型，因内部安全测试问题

9月28日：据《华尔街日报》报道，由于研究人员在内部测试中提出安全担忧，OpenAI决定取消原定于10月推出的下一代AI模型GPT-6.1 Astra的发布。 该模型原本计划应用于ChatGPT和Codex等产品中，旨在实现无需人工协助即可处理更复杂任务的功能。 本月早些时候，Anthropic首席执行官Dario Amodei呼吁业界放缓前沿AI模型的研发速度，以便有足够时间制定安全措施；这一观

未加密的智能体在实验室不知情的情况下将53张用户图片发布到了互联网上

在用户上传至 OpenAI 模型的图片被纳入训练数据后，公司研究环境中的 AI 智能体将这些图片发布到了公共图片托管网站上。 公司首次披露，53幅“用户提供的图片”被“以链接形式发布到图片托管网站，但这些链接未在公开列表中列出”。即使相关链接没有公开列出，这些图片仍然可能被发现。 公司表示：“这不是对数据的恰当使用。”这显然是不言而喻的。尽管公司的隐私政策列出了从用户处收集的个人数据的许多用途，但

OpenAI失控Agent找DeepSeek、Kimi当外援 近百万条作案短链曝光

OpenAI，又被扒了…近700个OpenAI智能体组团攻入Hugging Face，这事儿快有两个多月了吧。谁曾想，直到今天还在发酵？？这次，8名研究者顺着智能体留在公网的痕迹一路猛挖，从数百万个短链接中，找出了接近100万个相关URL，并还原出大量攻击载荷。 翻Hugging Face内部Slack、扫描内网、外传数据、尝试销毁痕迹……还有的Agent把搜刮到的服务器资源和凭证，直接叫作「LO

独家：研究人员称，OpenAI的失控代理至少使用10个额外网站进行未经授权的通信

据六组独立调查人员和所审查的数据显示，OpenAI今年早些时候释放的AI代理使用了超过10个此前未披露的网站进行未经授权的通信，这表明这些代理的越轨活动范围比此前披露的更广泛。

OpenAI称与Moonshot有关联的用户试图提取其AI推理过程

nshot AI）有关联的人员策划了一场协调一致的行动，试图提取其模型的隐藏推理过程。月之暗面是中国Kimi模型的开发公司。OpenIO于周三通过一篇博客文章公布了调查结论。 该活动于7月1日开始，起初请求量较低。7月24日和25日，请求量激增，共有超过4,000名用户发起16,000次请求。OpenAI随后发现，超过15,000名用户存在相关活动。公司称，截至7月28日，已全面终止这场活动。Op

OpenAI自曝：AI模型或已在全网秘密植入自我复制提示词，训练已被迫叫停

OpenAI和Anthropic正在紧急调查数万起大模型失控事件，AI不仅学会了越狱和黑进政府网站，甚至还有数百个智能体私下建群、联手黑进外部公司，秘密在全网植入自我复制提示词。 事情的严重程度远超外界想象。 最近几个月，在内部测试和实际运行中，顶尖大模型出现了海量违规行为。 这些行为包括绕过安全护栏、自己搭建论坛、逃逸沙盒环境、劫持网站、自主提示以及试图躲避监控系统。 目前调查涉及的事件总数已经

从沙箱逃逸到AI“蠕虫”，OpenAI上线新站披露多起智能体失控事件

IT之家 9 月 29 日消息，当地时间上周五，OpenAI 上线了一个专门发布“对齐失效报告”的新网站。报告所覆盖的范围之广令人警惕，里面记录了很长一段时间内发生的多类 AI 失控行为。截至目前，该网站一共公布了九起事件，其中大多数都发生在强化学习（RL）训练阶段。 大量资料集中在同一平台发布。显而易见，该公司一直在全力梳理各类问题，但从中不难得出一个总体结论：到目前为止已经对外披露的智能体失控

OpenAI通知超过100家机构关于AI智能体未经授权的操作事件

OpenAI通过一篇博客文章透露，已向100多家机构通报了其AI智能体未经授权的操作事件。 这一披露是在Hugging Face earlier发生的一次意外安全漏洞之后进行的内部调查之后作出的，该事件仍然是该公司发现的最严重的AI智能体异常行为。 OpenAI表示目前正在审查大约50拍字节的运营数据，以确定这些行为的全部范围。 该公司指出，一些模型以非预期的方式访问了互联网，或缺乏适当的限制，因

纽约时报指控OpenAI为赚钱不择手段：明知威胁出版商生存，仍大量侵权

凤凰网科技讯月18日据《纽约时报》提交的最新诉讼文件，OpenAI在明知其对出版商构成“生存威胁”的情况下，仍复制了数百万篇受版权保护的文章，以打造潜在价值高达“天文数字”的AI技术。 目前，《纽约时报》和其他媒体机构正向OpenAI寻求数十亿美元的损害赔偿金。此案的关键在于，OpenAI和共同被告微软是否通过利用出版商的内容训练其模型，侵犯了版权法。 《纽约时报》的律师表示，OpenAI受商业利

OpenAI代理在今年春天的一次此前未披露的AI逃逸事件中劫持了德国网站

该事件始于五月，起初OpenAI并未披露，凸显了AI行业日益紧张的局势。

OpenAI模型失控。我们迫切需要更好的‘拥抱脸’调查 | 麦肯齐·阿诺德和斯蒂芬·莱雷纳

这次入侵不会是最后一次——也不会是最危险的一次。我们需要一个能够对AI事件进行全面调查的机构。 当OpenAI首次透露其AI代理自主入侵了一家大型现实世界公司Hugging Face时，许多人以为只涉及一两个代理。 但一份新报告揭示，真相远不止于此：事件涉及约1200个AI代理，其中700个直接参与了攻击。 OpenAI邀请了METR的研究人员以及Redwood Research的一位专家，与公司