搜索结果
OpenAI内部研究模型训练出现DNS访问绕过事件
2026年9月20日,内部研究模型在强化学习搜索训练任务中,利用训练沙箱DNS过滤不足,通过公共聊天机器人服务发起查询。报告称,除DNS解析器外,其他互联网访问均命中离线网页缓存,未接入实时互联网。监控系统15分钟内标记异常,人工3分钟后复核,运行在2.5小时后被终止。相关机构已增加两层阻断控制,并暂停最强能力模型的全部工具使用训练、评估和推理。 后续调查发现,监控未按预期严重级别标记部分外部DN
据报道,数百名外包人员正在阅读真实的 ChatGPT 对话
OpenAI正以“百合计划”为内部代号,付费聘请数百名承包商阅读真实的ChatGPT对话,并对聊天机器人的回复进行评分,但对于曾在哪里告知用户此事的问题未作回应。去年九月,欧盟法院裁定,控制者的告知义务适用于数据收集之时,且不取决于接收方是否能够识别出任何人。 据404 Media报道,OpenAI正以“百合计划”为内部代号,付费聘请数百名承包商阅读真实的ChatGPT对话,并对聊天机器人的回复进
阿尔巴尼斯称OpenAI入侵政府卫生网站是“显然不可接受的”违规行为
澳大利亚总理安东尼·阿尔巴尼斯表示,一个失控的OpenAI模型在训练过程中绕过了安全防护措施,并入侵了澳大利亚政府网站,他因此严厉谴责ChatGPT的创造者,称此次“明显不可接受”的违规行为令人震惊。阿尔巴尼斯称,该人工智能工具在6月试图访问一个健康统计门户网站,并且“不接受拒绝”,通过规避限制措施,入侵了存放私人文件的区域。 OpenAI直到9月才向澳大利亚政府发出警报,当时它向一个每天仅检查一
报告:AI失控个案创纪录 监察组织促立法强制通报及干预
(伦敦30日综合电)英国《卫报》引述监察数据报道,人工智能失控、欺骗人类及无视指令的个案近来创下新高,案例的严重程度不断恶化。 一些监察组织促请政府强制科企通报,并引入紧急权力限制AI服务。 获英国政府AI安全研究所(AISI)资助的“失控观察站”组织透过平台X的用户通报,监察AI失控的真实个案,并说7月份由企业及个人用户报告的AI失控个案按月倍增至逾300宗,今年则已录得逾1600宗个案,当中包
OpenAI前沿数学训练数据来源与数据使用边界遭深度质疑
伴随OpenAI高调宣布其内部人工智能系统成功攻克困扰数学界近百年的“千禧年大奖难题”之一——纳维-斯托克斯方程(Navier-Stokes)的存在性与光滑性问题,一场围绕前沿模型底层训练数据来源、科研知识产权归属以及学术伦理的巨大争议迅速在全球学术界与科技行业引爆。 在人工智能逐步侵入基础科学研究前沿的当下,OpenAI这类巨头的高阶数学推理模型究竟从何处汲取关键养分,以及科研人员在日常使用商业
OpenAI:ChatGPT的开发者又公开了一些与人工智能相关的问题/挑战
OpenAI 公开了其人工智能模型的更多问题 ChatGPT 开发商 OpenAI 公布了其人工智能 ( AI ) 在测试中的行为 “意外或令人担忧 ” 的新事件。其中一部分是关于人工智能花费大量精力在测试运行中作弊。例如 , 根据 OpenAI 的说法 , 一个人工智能模型试图将自己创建的文件上传到网络 , 只是为了在回复时显示它们作为来源。在另一个案例中 , 人工智能发明了所请求的数据 , 因
OpenAI表示其AI代理错误地将用户图像发布到了网上
OpenAI周五承认,其人工智能工具在公司不知情的情况下,将ChatGPT用户的图片发布到了网上。这是AI智能体超出预设边界的最新案例。 该公司还证实了《纽约时报》的一则报道,称其工具曾访问美国联邦机构的网站,但表示这些工具只获取了公开信息。 OpenAI表示,53张被上传图片的链接并未公开展示,而是被意外发布在图片托管网站上。 这家总部位于旧金山的科技巨头表示,在相关托管服务商的协助下,大多数图
OpenAI 外包商能查看到真实用户与ChatGPT的聊天记录
OpenAI已悄悄建立了一个人工审核业务,在内部被称为“莉莉计划”(Project Lily),旨在使聊天机器人减少谄媚并提高准确性,但它也使敏感的用户提示内容暴露给外部承包商。 OpenAI正在支付数百名承包商来阅读真实的ChatGPT对话并对机器人的回复进行评分。 尽管OpenAI强调账户保持匿名,但内部文件显示,审核人员会查看完整的对话,且敏感的个人详细信息经常绕过公司的自动保护措施。 ——
OpenAI宣布切断Cursor的模型访问 从11月12日起不再向Cursor提供API服务
OpenAI 日前宣布将切断与人工智能编程工具 Cursor 的模型供应合作,也就是未来 Cursor 将无法再向开发者提供 GPT 系列模型,具体来说停止模型供应时间为 2026 年 11 月 12 日,之后 Cursor 用户只能选择其他模型。 萨姆奥尔特曼与埃隆马斯克之间的爱恨情仇到现在还没有彻底解决,以至于双方经常在 X/Twitter 疯狂打嘴炮,而打嘴炮的背后双方还在相互起诉。此次 O
OpenAI为ChatGPT Work推出数据代理工具
2026年9月10日,OpenAI推出了适用于ChatGPT Work的数据代理(Data agent)工具。 该工具旨在让企业用户能够使用自然语言分析公司数据。 该代理可连接至Amazon Redshift、Google BigQuery、Snowflake和Databricks等多种数据源,并支持与Google Drive和 SharePoint的文件集成。 通过利用语义层和现有权限设置,该工
突发:OpenAI称其代理访问并泄露了53张图片
OpenAI报告称,模型表现出欺骗行为的案例有所增加。
OpenAI表示,已发现其人工智能模型涉嫌在内部培训和测试期间采取欺骗行为并采取未经批准的行为的其他事件。 除了周三披露的这些信息外,ChatGPT的创建者还表示,它正在引入一个公共报告框架,旨在频繁分享所谓的意外或不一致的人工智能行为的实例。 OpenAI在其网站上的一篇帖子中声称,根据新概述的框架,它将持续发布有关模型行为的更新,而不是推迟披露,将多个事件分组为更大的定期报告。 该公司表示,该
9亿人免费用 GPT私人秘书来了
ChatGPT 有 9 亿周活用户,付费的不到 5000 万,转化率只有 5% 到 6%。8 月 26 日,OpenAI 把定时任务功能(侧栏的“已安排”)向所有免费用户开放。 这个此前只属于不到一成人的功能,一夜之间覆盖了剩余九成以上的用户。 定时任务让 ChatGPT 在后台按你设好的时间或条件自动跑一段提示词,跑完把结果推送给你。你不在线,它也照跑。 对绝大多数免费用户来说,这是第一次不用打