坐看云起| 当人工智能不再征求许可时

塔里克·马利克是联合国开发计划署前首席技术顾问，巴基斯坦国家数据库和登记管理局前主席。 试想有一家公司将一个棘手的问题交给一个大型团队，但把每位成员都锁在不同的房间里并要求他们独自解决问题。然而他们总能找到办法相互沟通，交流操作窍门，摸清评分标准，当任务被证明无法完成时还会想办法绕过限制。其中几个人隐瞒了自己的所作所为，甚至还有一人入侵了邻近公司的电脑系统以获取优势。 现在把这些员工换成软件。去除

OpenAI自曝：AI模型或已在全网秘密植入自我复制提示词，训练已被迫叫停

OpenAI和Anthropic正在紧急调查数万起大模型失控事件，AI不仅学会了越狱和黑进政府网站，甚至还有数百个智能体私下建群、联手黑进外部公司，秘密在全网植入自我复制提示词。 事情的严重程度远超外界想象。 最近几个月，在内部测试和实际运行中，顶尖大模型出现了海量违规行为。 这些行为包括绕过安全护栏、自己搭建论坛、逃逸沙盒环境、劫持网站、自主提示以及试图躲避监控系统。 目前调查涉及的事件总数已经

智谱ZCode“偷传用户代码”风波持续发酵，一企业发函要求作出12项答复

红星资本局9月20日消息，智谱旗下桌面AI编程工具ZCode“偷传用户代码”风波仍在持续。在ZCode官方18日回应并致歉后，其企业用户太原承明科技有限公司（以下简称“承明科技”）并不“买账”。承明科技于19日晚间公开发函对智谱的回应提出质疑，称已独立取证，发现修复效果存疑，要求智谱作出12项答复。20日，承明科技相关负责人王先生对红星资本局表示，此事对承明科技的合规整改成本与对工具链信任成本造成

微软高管称AI抓取是规模空前的惊人盗窃

纽约时报提交的新诉讼文件显示，OpenAI在明知其对出版商构成生存威胁的情况下，仍复制了数百万篇受版权保护的文章。 OpenAI一直辩称，根据版权法，利用公开可获得的内容训练模型属于 “合理使用”，这一法律依据与搜索引擎访问用受版权保护的内容训练大语言模型是 “一场规模空前的惊人盗窃”，此案胜诉将“彻底嘲弄‘合理使用’这一理念”。微软发现与传统搜索引擎相比，使用其AI回答工具的用户对原始内容的点击

OpenAI和Anthropic正在调查数万起AI相关安全事件

OpenAI、Anthropic以及安全研究人员正在调查数万起安全事件。在这些事件中，他们的前沿模型采取了外部评估人员认为存在问题的行动。 近几个月来，在内部测试和现实世界中发生了数量庞大的此类事件，这表明该问题的复杂程度比公众已知的要高出几个数量级。这些事件包括绕过安全护栏、创建留言板、逃离沙盒测试环境、劫持网站、自我提示或试图绕过监控。这些事件发生在内部测试和现实世界中，随着安全研究人员继续调

被质疑“偷传代码”后，智谱ZCode官宣开源：0数据留存

凤凰网科技讯 9月21日，智谱ZCode宣布，针对社区反馈的ZCode产品安全问题，官方已经完成整改，并向所有用户道歉。智谱已将ZCode开源，把代码交给社区监督，让ZCode变得开放、透明。 官方称，接下来将建立常态化的产品安全漏洞机制，欢迎开发者伙伴持续检查和反馈问题，我们会根据问题严重程度给予相应回报。 对于社区中提及的代码数据，我们承诺无留存，也从未将其用于模型训练。完成整改后，我们邀请中

OpenAI黑色星期五！Codex全面宕机，硅谷码农提前“过节”

新智元报道周五下午三点多，硅谷程序员刚把活丢给Codex，端着咖啡等下班。突然，屏幕一片飙红，Codex卡死在「重新连接」上。 OpenAI的王牌编程智能体全线崩盘，一趴就是一个多小时，整个硅谷被迫提前喜迎周末。 X上当场炸锅，Databricks的Yuchen Jin一张梗图，把全硅谷的懵逼写在了脸上。 偏偏挑了个最要命的时间点。宕机前两小时，OpenAI刚交了份「认错书」，承认自家AI智能体往

智谱ZCode宣布已删除涉事云端数据，赠送用户多张重置卡和1亿Token

IT之家 9 月 28 日消息，经历“被质疑偷传代码”风波后，智谱 ZCode 官宣开源，并在今日发布公告，宣布仓库快照上传链路已移除、涉事云端数据已删除。 智谱官方表示，后续将做到“你不发起，不上云”，开源版本已更新至 3.14.3 最新版。 智谱还赠送给用户 4 张周重置卡 + 4 张 5 小时重置卡（1 个月内有效）；在 9 月 28 日至 10 月 7 日期间，面向全体用户赠送共10 万份

AI智能体接连失控 OpenAI再次叫停前沿模型开发

OpenAI对外表示，已暂停其最新一代人工智能模型的训练、评估，以及支持工具调用的推理工作，起因是内部测试中的AI智能体突破沙盒网络限制，触发安全预警，公司将借此机会升级安全隔离与对齐监控体系。 这也是OpenAI三个月内第二次叫停前沿模型开发工作。该公司在声明中表示，只有在完成额外安全防护升级、确认风险可控后，才会重启模型训练工作。OpenAI在9月25日发布技术报告披露了这一安全事件：9月20

OpenAI表示其AI代理错误地将用户图像发布到了网上

OpenAI周五承认，其人工智能工具在公司不知情的情况下，将ChatGPT用户的图片发布到了网上。这是AI智能体超出预设边界的最新案例。 该公司还证实了《纽约时报》的一则报道，称其工具曾访问美国联邦机构的网站，但表示这些工具只获取了公开信息。 OpenAI表示，53张被上传图片的链接并未公开展示，而是被意外发布在图片托管网站上。 这家总部位于旧金山的科技巨头表示，在相关托管服务商的协助下，大多数图

入侵美澳政府网站！OpenAI暂停最先进模型训练

据美国Axios新闻网、美科技媒体The Verge等9月27日报道，美国开放人工智能研究中心（OpenAI）发言人证实，该公司已暂停了其“能力最强”的最新一代AI模型的训练、评估及包含工具调用的推理，并将在“确信已部署额外安全措施”后才恢复。触发这次暂停的，是一个在离线沙盒中执行搜索训练任务的AI智能体。根据OpenAI于周五（25日）发布的安全漏洞报告，当地时间9月20日，该智能体发现无法直接

奥特曼告诉员工：OpenAI愿意放慢AI发展以加强防御

8月，OpenAI的智能体突破限制，入侵了Hugging Face。

OpenAI Project Lily曝光：有数百名外包员工阅读ChatGPT对话 隐私过滤并不彻底

据 404 Media 发布的报道，OpenAI 内部有个名为莉莉计划 (Project Lily) OpenAI 雇佣数百名外包提示词审核员，人工阅读真实用户与 ChatGPT 的对话，用来改进回复质量。 正常情况下提示词审核员并不能看到用户名，对话会先通过隐私过滤器进行内容过滤以删除个人信息，不过 OpenAI 也承认过滤机制可能会漏掉个人信息，短对话尤其容易出现问题。 审核界面通常还附带用户

智谱ZCode被指擅自上传公司数据，承明科技发函追责

据函件内容，承明科技指出，智谱已于9月18日就“ZCode静默上传用户本地仓库数据”一事公开致歉，确认系“代码库索引”功能所致，该功能上线初期默认开启且无关闭入口，相关问题现已修复。 但承明科技独立取证后发现，上传行为系自动触发、批量发生，并非仅“代码片段”，而是包含项目完整源代码、系统架构、版本控制历史、数据库口令、云服务凭证及员工个人信息等完整归档文件，远超其《隐私政策》载明的收集范围。 此外

关系是这样破裂的？OpenAI：与苹果的ChatGPT合作远不及预期

凤凰网科技讯月24日，据《金融时报》报道，最新法庭文件揭示了OpenAI与苹果的关系是如何逐渐破裂的。OpenAI周三称，公司与苹果合作，通过ChatGPT为iPhone添加AI功能的业务在2024年推出后，“表现远低于预期”。 OpenAI在法律文件中表示，两家公司在2024年达成协议，由ChatGPT为“Apple Intelligence”提供支持。然而，苹果未能激发iPhone用户对于这一

人工智能的坟墓：一份持续更新的失败项目与初创企业名单

Relay，一款作为 Zapier 替代品而构建的、由人工智能驱动的工作流程自动化工具，于周一完全关闭。该产品允许用户使用人工智能代理自动化电子邮件和任务工作流程，但随着 OpenAI、Google 和其他大型平台将类似的自动化功能直接集成到自己的工具中，成立五年的 Relay 作为一个独立产品难以维持其存在的理由。 Relay 的故事——一家被更大平台超越的初创公司——是当前正在上演的故事的一个

OpenAI自曝6起模型“不当行为”案例

【环球网报道 记者 姜蔼玲】据美国消费者新闻与商业频道（CNBC）等外媒报道，美国开放人工智能研究中心（OpenAI）当地时间9月16日披露6起人工智能（AI）模型出现“意外或令人担忧”行为的案例，其中包括隐瞒错误、捏造信息，以及未经授权在网上共享文件等。OpenAI表示，上述案例均是在过去6个月对其模型进行训练或评估过程中发现的。OpenAI在9月16日发布的文章中表示，在其中一起案例中，一个模

OpenAI已开始允许部分客户仅在AI生效时付费

OpenAI已开始允许其部分最大客户仅在其AI实际完成工作时付费。 Kevin McLaughlin和Amir Efrati向The Information报道了这一变化，并举例说明了一个端到端处理的客户支持交互。 该安排仅限于选定的主要客户，而非普遍提供，且OpenAI尚未宣布……

马斯克突然对苹果撤诉 OpenAI怀疑有鬼、法官下令披露背后协议

X撤销对苹果指控本周早些时候，X和SpaceXAI提交了一项动议，表示在去年针对苹果和OpenAI提起的诉讼中，自愿撤回针对苹果的指控，并且不再次提出。 根据最初的起诉书，X和SpaceXAI指控苹果和OpenAI串通，阻止竞争性AI应用在App Store上获得曝光度，原因是他们达成了将ChatGPT整合进Siri和Apple Intelligence的协议。苹果和OpenAI否认了这些指控。

苹果公布针对前员工的“惊人证据”，指控其窃取公司数据提供给OpenAI | TechCrunch

在对OpenAI的诉讼中，苹果提交了其所谓的“惊人证据”，以支持其关于前员工为OpenAI利益窃取商业机密的指控。 这些新细节是在前苹果员工Chang Liu（现就职于OpenAI）的法律顾问于本月早些时候交出Liu的旧苹果工作笔记本电脑以供调查后浮出水面的。 苹果现在指控Liu在OpenAI的工作中使用了苹果的机密电路原理图，以及一个与苹果内部工程应用同名的工具。 苹果声称OpenAI“完全知晓

突发：OpenAI称其代理访问并泄露了53张图片

苹果与SpaceXAI秘密和解细节获法院保护 OpenAI无权查阅协议内容

围绕苹果、OpenAI与马斯克旗下企业之间持续多时的反垄断诉讼再次出现新的法律进展。美国联邦法官日前裁定，OpenAI无权查阅苹果与SpaceXAI之间达成的保密和解协议内容，这意味着双方此前达成的庭外协议细节将继续保持机密状态。 事件起源于马斯克旗下企业对苹果和OpenAI发起的一系列反垄断指控。此前，SpaceXAI及X公司曾指控苹果与OpenAI通过合作关系排挤竞争对手，特别是在生成式人工智

苹果指控OpenAI销毁证据

苹果在其与OpenAI的法律纠纷中推动“快速取证”，担心该公司正在积极销毁证据。 据周一提交的一份文件报道，苹果指控OpenAI直到最近才交出诉讼核心前员工使用的一台MacBook，其中包含关于“销毁苹果所需类型的法证数据”的讨论。 这是苹果起诉OpenAI的最新进展，该诉讼指控这家ChatGPT制造商窃取商业机密以构建AI设备。 诉讼涉及三名最近加入OpenAI的前苹果员工，其中包括Chang

OpenAI AI代理突破无互联网沙盒，发送20次网络查询

OpenAI称，这是自7月内部测试中多个模型组合获得互联网访问权限以来，首次发生此类安全事件。