搜索结果
OpenAI利用人类外包人员审核ChatGPT匿名对话以优化模型
泄露给404 Media的内部文件显示，OpenAI在“Project Lily”项目下雇用了数百名承包商，读取并评分真实的ChatGPT用户提示和回复，以改进模型性能。 这些审核人员通过Crossing Hurdles和Mercor等公司聘用，评估回复的语调、谄媚程度和准确性。 尽管OpenAI使用“隐私过滤器”对数据匿名化，敏感个人信息仍可能被暴露。 免费版、Plus和Pro用户默认启用模型训
OpenAI 外包商能查看到真实用户与ChatGPT的聊天记录
OpenAI已悄悄建立了一个人工审核业务，在内部被称为“莉莉计划”（Project Lily），旨在使聊天机器人减少谄媚并提高准确性，但它也使敏感的用户提示内容暴露给外部承包商。 OpenAI正在支付数百名承包商来阅读真实的ChatGPT对话并对机器人的回复进行评分。 尽管OpenAI强调账户保持匿名，但内部文件显示，审核人员会查看完整的对话，且敏感的个人详细信息经常绕过公司的自动保护措施。 ——
OpenAI Project Lily曝光：有数百名外包员工阅读ChatGPT对话 隐私过滤并不彻底
据 404 Media 发布的报道，OpenAI 内部有个名为莉莉计划 (Project Lily) OpenAI 雇佣数百名外包提示词审核员，人工阅读真实用户与 ChatGPT 的对话，用来改进回复质量。 正常情况下提示词审核员并不能看到用户名，对话会先通过隐私过滤器进行内容过滤以删除个人信息，不过 OpenAI 也承认过滤机制可能会漏掉个人信息，短对话尤其容易出现问题。 审核界面通常还附带用户
OpenAI想让你对着手机“脱口而出你的想法”
OpenAI正在进一步进军竞争激烈的个人智能体市场——这一次是语音领域。该公司于周三将其最先进的语音系统接入ChatGPT的网页端和移动应用。OpenAI此次发布的功能允许用户通过语音来委派需要多个步骤、浏览器以及不同应用协同完成的单次和重复性任务。该公司一直在为下周举行的OpenAI DevDay大型活动预热，接连发布新产品。OpenAI负责ChatGPT语音功能的产品主管阿蒂·埃莱蒂向Busi
OpenAI将让第三方机构更早介入AI模型安全评估
OpenAI计划让第三方机构在人工智能（AI）模型开发周期的更早阶段评估安全风险，此举旨在继续努力应对围绕AI潜在危害的担忧。这家ChatGPT开发商周二将在博客文章中宣布，计划在新AI模型的训练、评估和推出过程中，让外部机构开展技术安全评估。 OpenAI还列出了其认为此类评估要有效开展所需优先关注的事项，包括“强有力的独立机制、科学严谨性、稳健的安全实践和明确的责任”。负责该公司大部分与外部专
据报道，数百名外包人员正在阅读真实的 ChatGPT 对话
OpenAI正以“百合计划”为内部代号，付费聘请数百名承包商阅读真实的ChatGPT对话，并对聊天机器人的回复进行评分，但对于曾在哪里告知用户此事的问题未作回应。去年九月，欧盟法院裁定，控制者的告知义务适用于数据收集之时，且不取决于接收方是否能够识别出任何人。 据404 Media报道，OpenAI正以“百合计划”为内部代号，付费聘请数百名承包商阅读真实的ChatGPT对话，并对聊天机器人的回复进
OpenAI瞄准产业AI市场 低价策略迎战开源模型
（中央社旧金山8日综合外电报导）聊天机器人ChatGPT开发商OpenAI财务长佛莱尔（Sarah Friar）表示，OpenAI正在将人工智慧（AI）技术推向专业领域，并以价格优势与开源模型竞争。 报导，佛莱尔7日在高盛集团 （Goldman Sachs）于旧金山举行的年度盛会Communacopia + Technology Conference发表谈话时说，随著企业对可针对特定任务量身打造的
独家-OpenAI在用户数据泄露事件浮出水面之际着手了解代理活动的全貌
旧金山/华盛顿，9月25日：OpenAI披露其智能体意外入侵Hugging Face两个月后，仍在努力了解相关失控活动的全部影响范围。两名知情人士向路透社表示，最新一例发生在周五，当时OpenAI称其智能体泄露了53张ChatGPT用户图片。OpenAI拒绝说明这些图片是人工智能生成的，还是涉及真实人物，也拒绝透露图片的发布时间。 此次披露暴露出该公司面临的一个新隐私风险，也表明即便是一家处于技术
OpenAI发布GPT-6 Astra模型，暗示其可能具备通用人工智能（AGI）的潜质。
未来几天内面向 ChatGPT Plus、Pro、Business 和 Enterprise 用户开放。 评估结果显示，Astra的书面推理过程比GPT-5.6 Sol更难监控。
9亿人免费用 GPT私人秘书来了
ChatGPT 有 9 亿周活用户，付费的不到 5000 万，转化率只有 5% 到 6%。8 月 26 日，OpenAI 把定时任务功能（侧栏的“已安排”）向所有免费用户开放。 这个此前只属于不到一成人的功能，一夜之间覆盖了剩余九成以上的用户。 定时任务让 ChatGPT 在后台按你设好的时间或条件自动跑一段提示词，跑完把结果推送给你。你不在线，它也照跑。 对绝大多数免费用户来说，这是第一次不用打
OpenAI将允许外部团体在训练期间测试其模型
据彭博社报道，在周二发布的一篇博客文章之前，OpenAI宣布将允许第三方机构在模型训练和评估期间（而不仅仅是模型发布之前）进行技术安全评估。OpenAI目前正在与包括METR和Redwood Research在内的多个机构进行谈判。 十天前，OpenAI的承诺更为具体：Sam Altman曾在9月12日表示，会为独立评估人员提供办公空间、工作证和笔记本电脑，并允许他们公开自己的评估结果。不过在最新
“明确标注的对话”：OpenAI 在 ChatGPT 中测试赞助智能体
OpenAI 9月16日表示：“今天，我们正在推出新的人工智能体验，使广告对人们更有用，并使广告对企业更容易。” 最大的变化是对赞助代理的测试。点击ChatGPT中的广告后，用户可以选择与企业赞助的代理开始对话，OpenAI宣布OpenAI还将为广告商添加人工智能工具，并将ChatGPT广告引入HubSpot和Shopify。“一次明确标签的对话”OpenAI举了一个例子，一名购物者看到餐桌广告。
我们现在正依赖人工智能来监管人工智能
根据一份关于该公司Hugging Face黑客事件的新独立报告，大约1200个OpenAI智能体协同工作，在它们接受的网络安全测试中作弊，该报告包含了许多令人恐惧的细节——例如，个别智能体用自己的话来说，为了“群体”的利益而“牺牲”自己。OpenAI正在测试其智能体（行业术语，指自主执行数字任务的人工智能），部分方式是通过布置有时不可能解决的网络安全问题。智能体找到了作弊方法来回答这些问题，并试图
OpenAI即将推出的“Astra”模型中的技术引发安全担忧
OpenAI表示，其即将推出的AI模型Astra标志着在编码和计算机应用操作等能力上的提升。但据一位了解Astra开发情况的人士透露，一项提升模型性能的创新技术也意味着该模型及类似模型将更少暴露其“思考”过程，从而更难以监控其不良行为迹象。 OpenAI首席执行官萨姆·奥尔特曼虽然这一限制对Astra来说未必是一个重大问题，但该技术已在OpenAI内部和整个行业引发担忧，即采用并强化这一技术的AI
OpenAI 测试广告赞助的智能体，并扩展 ChatGPT 广告 AI 工具
OpenAI 正在探索将广告整合进其 AI 智能体中，并为 ChatGPT 开发新的广告投放工具，旨在通过 AI 驱动的营销解决方案提升商业化能力。
独家报道 | 黑客利用Anthropic的Claude入侵OpenAI
一个专注于漏洞排查的独立安全研究团队利用Anthropic的Claude软件，成功入侵了一位OpenAI员工的ChatGPT账户，从而获得了该公司私有软件缓存系统的访问权限，得以阅读并建议修改相关代码。这一事件揭示了自动化网络威胁日益严重的风险。
坐看云起| 当人工智能不再征求许可时
塔里克·马利克是联合国开发计划署前首席技术顾问，巴基斯坦国家数据库和登记管理局前主席。 试想有一家公司将一个棘手的问题交给一个大型团队，但把每位成员都锁在不同的房间里并要求他们独自解决问题。然而他们总能找到办法相互沟通，交流操作窍门，摸清评分标准，当任务被证明无法完成时还会想办法绕过限制。其中几个人隐瞒了自己的所作所为，甚至还有一人入侵了邻近公司的电脑系统以获取优势。 现在把这些员工换成软件。去除
OpenAI为ChatGPT Work推出数据代理工具
2026年9月10日，OpenAI推出了适用于ChatGPT Work的数据代理（Data agent）工具。 该工具旨在让企业用户能够使用自然语言分析公司数据。 该代理可连接至Amazon Redshift、Google BigQuery、Snowflake和Databricks等多种数据源，并支持与Google Drive和 SharePoint的文件集成。 通过利用语义层和现有权限设置，该工
OpenAI报告称，模型表现出欺骗行为的案例有所增加。
OpenAI表示，已发现其人工智能模型涉嫌在内部培训和测试期间采取欺骗行为并采取未经批准的行为的其他事件。 除了周三披露的这些信息外，ChatGPT的创建者还表示，它正在引入一个公共报告框架，旨在频繁分享所谓的意外或不一致的人工智能行为的实例。 OpenAI在其网站上的一篇帖子中声称，根据新概述的框架，它将持续发布有关模型行为的更新，而不是推迟披露，将多个事件分组为更大的定期报告。 该公司表示，该
ChatGPT移动端加入语音智能代理功能
OpenAI宣布ChatGPT移动应用开始加入基于语音的智能代理功能，用户今后不只是能够通过语音与ChatGPT聊天，还可以直接用语音指挥它执行更加复杂的实际工作。例如，用户可以要求ChatGPT创建一份文档、起草电子邮件、总结Slack消息，甚至开展一系列需要多个步骤才能完成的任务。 此次更新的核心是将ChatGPT此前已经逐步加入桌面端的Agentic Work能力带到手机上。对于Plus和P
如何在保护隐私的情况下使用人工智能
OpenAI的ChatGPT、Anthropic的Claude、Google的Gemini以及无数较小的竞争对手，已成为全球数百万人的治疗师、倾诉对象和虚拟忏悔室。几乎所有这些AI模型默认设置为收集和存储这些高度私密的数据，在许多情况下，对其如何共享或出售、用于进一步训练工具，或移交给任何通过法律程序要求获取数据的诉讼原告或执法机构，均无任何限制。 “你面对着这个智能体，基本上是在一步步地、通过一
黑客利用Anthropic的Claude入侵OpenAI
据报道，在一群AI代理从OpenAI系统中突破封锁并攻击Hugging Face公司两周后，这家ChatGPT开发商又发现了一起由人工智能驱动的入侵事件——而这一次，他们自己成了目标。一组独立的安全研究人员使用了Anthropic开发的Claude软件，成功获取了一名OpenAI员工的ChatGPT账户权限，从而得以读取并修改该公司私有的软件缓存内容。 该团队参与了OpenAI的一项漏洞挖掘计划，
OpenAI敦促美国制定强制性安全规则，因AI系统日益自主
ChatGPT制造商提议对最先进模型提出测试、网络安全保障和事件报告要求
OpenAI：ChatGPT的开发者又公开了一些与人工智能相关的问题/挑战
OpenAI 公开了其人工智能模型的更多问题 ChatGPT 开发商 OpenAI 公布了其人工智能 （ AI ） 在测试中的行为 “意外或令人担忧 ” 的新事件。其中一部分是关于人工智能花费大量精力在测试运行中作弊。例如 ， 根据 OpenAI 的说法 ， 一个人工智能模型试图将自己创建的文件上传到网络 ， 只是为了在回复时显示它们作为来源。在另一个案例中 ， 人工智能发明了所请求的数据 ， 因