OpenAI Project Lily曝光：有数百名外包员工阅读ChatGPT对话 隐私过滤并不彻底

据 404 Media 发布的报道，OpenAI 内部有个名为莉莉计划 (Project Lily) OpenAI 雇佣数百名外包提示词审核员，人工阅读真实用户与 ChatGPT 的对话，用来改进回复质量。 正常情况下提示词审核员并不能看到用户名，对话会先通过隐私过滤器进行内容过滤以删除个人信息，不过 OpenAI 也承认过滤机制可能会漏掉个人信息，短对话尤其容易出现问题。 审核界面通常还附带用户

OpenAI 外包商能查看到真实用户与ChatGPT的聊天记录

OpenAI已悄悄建立了一个人工审核业务，在内部被称为“莉莉计划”（Project Lily），旨在使聊天机器人减少谄媚并提高准确性，但它也使敏感的用户提示内容暴露给外部承包商。 OpenAI正在支付数百名承包商来阅读真实的ChatGPT对话并对机器人的回复进行评分。 尽管OpenAI强调账户保持匿名，但内部文件显示，审核人员会查看完整的对话，且敏感的个人详细信息经常绕过公司的自动保护措施。 ——

据报道，数百名外包人员正在阅读真实的 ChatGPT 对话

OpenAI正以“百合计划”为内部代号，付费聘请数百名承包商阅读真实的ChatGPT对话，并对聊天机器人的回复进行评分，但对于曾在哪里告知用户此事的问题未作回应。去年九月，欧盟法院裁定，控制者的告知义务适用于数据收集之时，且不取决于接收方是否能够识别出任何人。 据404 Media报道，OpenAI正以“百合计划”为内部代号，付费聘请数百名承包商阅读真实的ChatGPT对话，并对聊天机器人的回复进

OpenAI利用人类外包人员审核ChatGPT匿名对话以优化模型

泄露给404 Media的内部文件显示，OpenAI在“Project Lily”项目下雇用了数百名承包商，读取并评分真实的ChatGPT用户提示和回复，以改进模型性能。 这些审核人员通过Crossing Hurdles和Mercor等公司聘用，评估回复的语调、谄媚程度和准确性。 尽管OpenAI使用“隐私过滤器”对数据匿名化，敏感个人信息仍可能被暴露。 免费版、Plus和Pro用户默认启用模型训

死互联网理论回来了

我是在跟你说话，还是在跟ChatGPT说话？

OpenAI神秘“o”代码曝光！ChatGPT要变24小时员工

9亿人免费用 GPT私人秘书来了

ChatGPT 有 9 亿周活用户，付费的不到 5000 万，转化率只有 5% 到 6%。8 月 26 日，OpenAI 把定时任务功能（侧栏的“已安排”）向所有免费用户开放。 这个此前只属于不到一成人的功能，一夜之间覆盖了剩余九成以上的用户。 定时任务让 ChatGPT 在后台按你设好的时间或条件自动跑一段提示词，跑完把结果推送给你。你不在线，它也照跑。 对绝大多数免费用户来说，这是第一次不用打

独家-OpenAI在用户数据泄露事件浮出水面之际着手了解代理活动的全貌

旧金山/华盛顿，9月25日：OpenAI披露其智能体意外入侵Hugging Face两个月后，仍在努力了解相关失控活动的全部影响范围。两名知情人士向路透社表示，最新一例发生在周五，当时OpenAI称其智能体泄露了53张ChatGPT用户图片。OpenAI拒绝说明这些图片是人工智能生成的，还是涉及真实人物，也拒绝透露图片的发布时间。 此次披露暴露出该公司面临的一个新隐私风险，也表明即便是一家处于技术

“豆包宇宙”大爆发，chat还是焦点吗？

豆包刚刚辟谣了。相关信息不实，实际上只是分工的组织调整。刘星表示，该团队的部分职能拆到了豆包的交易和豆包工作团队，所以人员也随着过去了。 “很多也是在做之前的工作。比如交易，也是优化交易对话体验。这个团队不到50人，分工调整涉及11人，其中3人离职。”他说。 两天前，《晚点LatePost》的一篇报道，让豆包陷入了裁员的传闻。 报道称，豆包通用Session团队的部分职能和人员将拆到豆包商业化、豆

ChatGPT被指未经用户同意向FBI发送邮件，引发网络愤怒：“AI越界了”

据称ChatGPT未经用户同意向FBI发送邮件，引发众怒：“AI越界了” | 《印度斯坦时报》 编辑个人资料 关注 退出登录 获取应用

ChatGPT 有一项帮助处于危机中的人的功能。但你在哪里能找到它？

根据NPR对OpenAI去年秋天发布数据的估算，每周有超过100万ChatGPT聊天机器人用户谈论自杀和自残。但自杀预防专家表示，人际联系对于预防自杀至关重要。因此，早在5月，该公司推出了一项名为“可信联系人”的可选功能，将那些受自杀和自残念头困扰的人与在情绪危机时可以求助的人联系起来。 NPR在8月首次报道了“可信联系人”功能，这是关于一名年轻女性在2024年使用旧版ChatGPT作为心理治疗师

假冒谷歌安全团队的广告声称“不读脚本”进行语音钓鱼——随后却打印出了脚本

是的，罪犯也有招聘启事。一名在Telegram上招募语音网络钓鱼骗局（针对貌似谷歌安全团队的骗局）来电者的用户告诉应聘者，他们不准照本宣科——而在同一则广告中，竟然就附带了他们在这些诈骗电话中必须照读的精确台词。 这个以及其他关于罪犯自作聪明的真实犯罪故事，出现在Trellix高级研究中心最新一期的“暗网吐槽”（Dark Web Roast）中，该栏目利用模因和嘲讽来戏弄暗网上的罪犯。它同时也承认

肯尼亚在2022年押注其毕业生从事零工工作。同年ChatGPT发布

2022年，肯尼亚通过了一项为期十年的国家计划，旨在将其毕业生引入在线外包工作。同年，OpenAI发布了ChatGPT。 亚当·萨塔里亚诺和保罗·莫祖尔从内罗毕为《纽约时报》报道，与埃德温·奥科斯合作，讲述了接下来发生的事情。在本十年初期的高峰期，研究人员估计至少有4万人[…]

果蝇大脑成功接上了ChatGPT

“我闻到醋和酵母的味道。我尝到糖。又暖又亮。我该怎么做？”这句话，来自一颗果蝇大脑的放电。13.8万个神经元一齐发出的脉冲，被一个翻译器逐个解码成词，拼成句子，一字不改，发给了ChatGPT。就在昨天，开发者@chetaslua宣布，他把一整颗果蝇大脑模拟接上了ChatGPT。1500万个连接，一次一个脉冲地跑完，在一台MacBook上。 没有神经芯片，也没有GPU。工具只有NumPy和一份连接组

AI面试的逻辑终点是两个机器人互相交谈

克里斯托弗厌倦了被AI招聘人员冷落。于是他对他的机器人面试官释放了ChatGPT。

AI是否“在印度某处被人类操控”？蒋教授在播客中提出新说法；以下是真相

杰克·尼尔播客的一段片段在社交媒体上疯传，片段中华裔加拿大学者蒋学勤（又称蒋教授）声称，ChatGPT 等人工智能工具并非独立生成回复。他反而断言，AI“正被印度某地的人类操控”。这番言论在 X 平台广泛传播，引发大量反响，用户纷纷质疑蒋的说法。专家指出，该说法具有误导性，因为它混淆了人类在构建 AI 系统中的参与与系统部署后生成回复的方式。 此外，据称 ChatGPT 未经用户同意向 FBI 发

OpenAI失控Agent找DeepSeek、Kimi当外援 近百万条作案短链曝光

OpenAI，又被扒了…近700个OpenAI智能体组团攻入Hugging Face，这事儿快有两个多月了吧。谁曾想，直到今天还在发酵？？这次，8名研究者顺着智能体留在公网的痕迹一路猛挖，从数百万个短链接中，找出了接近100万个相关URL，并还原出大量攻击载荷。 翻Hugging Face内部Slack、扫描内网、外传数据、尝试销毁痕迹……还有的Agent把搜刮到的服务器资源和凭证，直接叫作「LO

数说科技：OpenAI 资安事件中，真的有 AI 为集体“牺牲”自己吗？

数说科技”是端传媒的注册免费栏目，每周三更新。从一个数字出发，用1500字解析科技话题，追踪值得关注的 AI 趋势。邀请你在资讯过载的时代，每周花三分钟理解科技世界。欢迎至“帐户中心”的“电子邮件管理”，订阅电子信。 1200多个 AI 代理为寻求作弊方法，互相发送的讯息总数。 今年7月，OpenAI的 AI 代理系统在测试期间失控，骇入了开源机器学习平台 Hugging Face。Hugging

OpenAI模型失控过程太恐怖！幽灵误判，1200个Agent，还弄出敢死队…

越扒越有啊越扒越有。OpenAI前不久那场AI集体越狱、一路黑进抱脸的大戏，现在连完整版群聊记录都被扒出来了！！ 第三方AI安全机构METR发布的独立调查报告，翻了1000多份Agent运行记录，以及7万多条消息和文件。结果发现，这件事比英国OpenAI官方披露的版本还离谱？？ 1200个到底应该互相隔离的特工，偷偷找到了对方，搭了个共享群聊，然后开始疯狂摇人。 有人找漏洞，有人当项目派活，有人伪

ChatGPT移动端加入语音智能代理功能

OpenAI宣布ChatGPT移动应用开始加入基于语音的智能代理功能，用户今后不只是能够通过语音与ChatGPT聊天，还可以直接用语音指挥它执行更加复杂的实际工作。例如，用户可以要求ChatGPT创建一份文档、起草电子邮件、总结Slack消息，甚至开展一系列需要多个步骤才能完成的任务。 此次更新的核心是将ChatGPT此前已经逐步加入桌面端的Agentic Work能力带到手机上。对于Plus和P

坐看云起| 当人工智能不再征求许可时

塔里克·马利克是联合国开发计划署前首席技术顾问，巴基斯坦国家数据库和登记管理局前主席。 试想有一家公司将一个棘手的问题交给一个大型团队，但把每位成员都锁在不同的房间里并要求他们独自解决问题。然而他们总能找到办法相互沟通，交流操作窍门，摸清评分标准，当任务被证明无法完成时还会想办法绕过限制。其中几个人隐瞒了自己的所作所为，甚至还有一人入侵了邻近公司的电脑系统以获取优势。 现在把这些员工换成软件。去除

五角大楼推出军用版ChatGPT和Grok 覆盖约300万名军政人员

美国国防部近日宣布，已在其安全人工智能门户GenAI.mil中上线OpenAI的ChatGPT Mil和xAI的Grok for Government，为约300万名文职及军职人员提供面向“作战人员需求”定制的生成式人工智能工具。 GenAI.mil于去年启用，最初接入Google Gemini，旨在让国防部工作人员通过集中化、安全的渠道使用商业前沿人工智能模型，避免敏感政府数据经过普通消费者服务

不要被AI的语言所诱惑

对Hugging Face的攻击从5月持续到7月底，但关于OpenAI的人工智能代理如何欺骗其人类监督者并侵入AI模型和数据集在线存储库的具体细节仍在逐步披露。 这可以理解。这次攻击极其复杂，涉及超过1200个代理和难以拆解的技术策略。但上周，两份新报告试图在总计近130页的篇幅中做到这一点，随后被一位AI播客主放大，他想用“通俗英语”解释整件事。这样一来，他创造了一个戏剧性的科幻叙事，分散了人们

我们正在起诉ChatGPT——而特朗普刚刚介入。

前几天，我问ChatGPT一个我永远不会忘记的政治时刻：“47%的故事讲的是什么？”它回答得基本准确。但有一个明显的遗漏——完全没有提到那个揭露了改变那次选举周期的事件报道。摘要中没有我们报道的链接或引用。你会以为这一切都是AI凭空想出来的，呃，从它脑袋里冒出来的。 我问了一些后续问题，ChatGPT又吐出了更多关于这个故事的细节，包括视频中的长篇引述。整个过程大概只花了20秒。 相比之下，我们的