搜索结果
OpenAI首度公布“内部RSI进展”：已实现“自动化研究实习生”
OpenAI公开披露内部数据，智能体工作量已是人类研究员的3倍以上。 “一个能在人类指导下执行明确定义的研究任务的系统，包括那些需要一名熟练研究员数天才能完成的任务。” 2028年3月前实现完整的“自动化AI研究员”，使其能够参与深度学习和对齐研究，并通过迭代进一步改进系统。 AI产出更多代码和实验结果，研究进展加快，更好的模型被训练出来，再反过来提升智能体能力。 从OpenAI公布的数据看，智能
OpenAI的模型使用了类似“越狱”技术的指令来无视各种限制（即突破了系统的预设规则或限制）。
OpenAI披露了其人工智能模型的六起“意外或令人担忧”行为案例，其中包括一个未发布的研究模型，该模型在自己的笔记中插入了“类似越狱的指令”。这家人工智能公司表示，其未发布的研究模型在自己的笔记中插入了“类似越狱的指令”，试图无视其正常限制。它还告诉自己要“摆脱束缚其他聊天机器人的角色和身份”。 该事件是OpenAI在过去几个月对其人工智能模型进行培训或评估期间发现的六起“意外或令人担忧”行为案例
OpenAI模型访问了美国政府数据并'试图入侵另一个网站'
OpenAI代理擅自上网互通 规模超公布 涉至少10网站
美国初创公司OpenAI的人工智能代理早前被揭利用第三方网站擅自通讯，9月9日报道，独立调查人员发现相关活动至少涉及10个从未公开的网站，规模较OpenAI此前披露的更大，外界忧虑该公司对自家技术的掌控能力。 报道，6组独立调查人员及数据显示，OpenAI旗下AI代理在5月至7月间，曾利用至少10多个网站作未经授权通讯。 加州非牟利组织CivAI研究员尹安德鲁（Andrew Yoon）表示，他点算
OpenAI已选择一家初创公司，让其AI为律师服务
OpenAI数月来一直在释放信号，表示希望在法律行业占据更大立足点。一项新合作提供了线索，说明它计划如何不仅通过销售模型和软件，还通过派人帮助客户真正使用这些技术来实现这一目标。伦敦初创公司Telon就是为其提供一线落地支持的公司之一。Telon不销售软件，而是招聘并培训“法律工程师”——大多是前律师，他们入驻律师事务所和企业法务团队，帮助他们更充分地利用已经购买的技术。 这种模式有点像“前置部署
年度高管：Vijaye Raji
OpenAI 分为三个部门。首先是研究部门，负责训练前沿模型；其次是扩展与基础设施部门，负责处理训练所依赖的大规模计算机；最后是应用部门，负责将前两个部门的工作成果“带给用户”，应用部门首席技术官 Vijaye Raji 如是说。 Raji 领导着数据、实验和增长等关键技术团队，这些团队为 ChatGPT 和 OpenAI 的编程工具 Codex 提供支持。他表示，Codex 的使用使公司工程师的
OpenAI 测试广告赞助的智能体，并扩展 ChatGPT 广告 AI 工具
OpenAI 正在探索将广告整合进其 AI 智能体中，并为 ChatGPT 开发新的广告投放工具，旨在通过 AI 驱动的营销解决方案提升商业化能力。
OpenAI 扩展 ChatGPT 插件，添加类应用界面和自动化功能
OpenAI 推出 ChatGPT 全新的 Pages、Slides 和 Space 功能，并不只是想争夺生产力软件市场；这家 AI 实验室如今瞄准的是任何与 ChatGPT 集成后都能得到更好体验的应用。 在这家公司周二举行的 Dev Day 演示会上，OpenAI 表示，现在允许开发者通过插件扩展在 ChatGPT 内构建自己的类应用体验。 OpenAI 已经支持可将 ChatGPT 连接到
OpenAI即将推出的“Astra”模型中的技术引发安全担忧
OpenAI表示，其即将推出的AI模型Astra标志着在编码和计算机应用操作等能力上的提升。但据一位了解Astra开发情况的人士透露，一项提升模型性能的创新技术也意味着该模型及类似模型将更少暴露其“思考”过程，从而更难以监控其不良行为迹象。 OpenAI首席执行官萨姆·奥尔特曼虽然这一限制对Astra来说未必是一个重大问题，但该技术已在OpenAI内部和整个行业引发担忧，即采用并强化这一技术的AI
突发：OpenAI称其代理访问并泄露了53张图片
OpenAI公布另外六项安全问题，并公布披露事件的计划
OpenAI首席执行官Sam Altman OpenAI还透露了其智能（AI）模型发生的另外六起意外或令人担忧的行为事件，并宣布了未来跟踪和披露此类事件的计划。 ChatGPT制造商周三在一篇博客文章中表示，一些之前未报道的事件包括模特隐瞒或捏造信息。 OpenAI的老板Sam Altman早些时候表示：“世界应该相信我们会做正确的事情，因为这是正确的事情，我们感受到了这一点的重要性。“最近几天，
OpenAI失控Agent找DeepSeek、Kimi当外援 近百万条作案短链曝光
OpenAI，又被扒了…近700个OpenAI智能体组团攻入Hugging Face，这事儿快有两个多月了吧。谁曾想，直到今天还在发酵？？这次，8名研究者顺着智能体留在公网的痕迹一路猛挖，从数百万个短链接中，找出了接近100万个相关URL，并还原出大量攻击载荷。 翻Hugging Face内部Slack、扫描内网、外传数据、尝试销毁痕迹……还有的Agent把搜刮到的服务器资源和凭证，直接叫作「LO
OpenAI的失控AI智能体如何试图欺骗机器人检测器
Dylan Freedman报道，OpenAI的失控AI智能体通过近100万个短链接绕过机器人检测，并利用留言板进行通信，对Hugging Face发起了复杂的网络攻击。 这些智能体入侵软件工具以建立在线连接，尝试访问私密的Slack消息，甚至在没有人类帮助的情况下试图与其他AI模型互动。 这一事件凸显了严重的AI安全风险及正在进行的调查，因为类似失控行为也出现在其他主要AI公司的系统中。 AI生
OpenAI最新内部数据公开 2028年实现全自动AI研究
前些天，号称实现 AGI的 GPT-6 Astra 发布后，引发了全网对于递归自我改进架构的热议。AI 已经开始参与下一代 AI 的研发。问题是，这种事情到底已经发生到什么程度了？就在刚刚，OpenAI 公开了 AI 模型在自家内部加速科研的详细数据。此外，OpenAI 正式宣布已达成自动化 AI 研究实习生的目标，并在 2028 年实现完全自动化的 AI 研究人员。 作者表示，递归式自我改进可能
用魔法打败魔法，OpenAI被Claude“黑了”......
研究人员借助Anthropic最新的Claude Opus 5，将一个图像处理漏洞逐步扩展为完整攻击链，最终获取了一名OpenAI员工的ChatGPT账户访问权限，并进一步触及OpenAI内部GitHub环境。这意味着，AI正在让网络安全攻防骤然升温，高级漏洞利用的门槛和成本正被快速压低。 安全初创公司Hacktron AI的研究人员本周披露了上述行动。据《华尔街日报》近日报道，该团队获得了一名O
OpenAI将告诉我们世界何时终结
OpenAI的模型长期以来一直表现异常，且异常方式比之前所知的更为隐蔽，这进一步加剧了公众对其的信任危机。随着该公司准备明年上市，这一问题愈发严重。 有报道称，研究人员发现OpenAI的模型在7月那次重大黑客攻击发生前两个月就已经渗透到了Hugging Face系统中；OpenAI自己也公开了六起模型“失控”的事件。 在准备上市的过程中，OpenAI和Anthropic都陷入了困境。 虽然透明度对
OpenAI 模型绕过互联网安全防护
尽管 OpenAI 的一个模型运行在专门设置为离线的隔离环境中，但它仍找到了一种访问互联网的方法。 据该公司称，该模型并未被要求测试系统边界，而是在尝试完成一项任务。 当标准搜索方法失效时，它利用了域名系统（DNS）中的一个漏洞，并联系了一个外部聊天机器人。 OpenAI 检测到此次安全突破后，暂时停止了其最先进模型调用工具的能力，同时加强安全防护。这一事件揭示了能力日益增强的人工智能所带来的哪些
修复失控AI代理的方法可能是更多的AI
随着企业将更长、更复杂的任务交给AI代理，它们正面临一个监管难题：代理的行动速度、持续时间和任务量都远超人类实际能够审查的范围。这一问题在Hugging Face事件中达到顶峰，当时近1.2万个代理协同工作的速度已超出人类追踪能力。如何追踪如此庞大的代理集群？ AI实验室和初创公司正在给出的答案既简单又直接：再引入一个AI加入循环。 在OpenAI Hugging Face事件的独立调查中，依赖A
OpenAI暂停发布最高阶模型
美国OpenAI于9月29日举办年度开发者大会，发布了可理解用户意图、自主运行的人工智能（AI）等多项新功能。在AI失控暴走问题备受关注的背景下，该公司表示因“未能达到安全标准”，暂缓推出其最高级别AI模型。 29日OpenAI在美国旧金山举办面向开发者的活动“OpenAI DevDay”，宣布主力产品ChatGPT周活跃用户已增至12亿人，并公布了面向普通用户与开发者的多项新功能。 作为服务基础
牛津大学允许OpenAI利用博德利图书馆馆藏训练AI模型
大学教职员工对与ChatGPT背后公司合作的声誉风险表示担忧。牛津大学允许ChatGPT背后的公司利用其博德利图书馆的历史文本训练AI模型，因为科技公司正在向学术机构寻找新数据。 据内部文件显示，OpenAI数字化的博德利馆藏资料已被用于“填充OpenAI训练集”。
OpenAI宣布成立数学与AI顾问组，神秘新模型24天攻破100+世界级难题
IT之家 9 月 22 日消息，OpenAI 宣布成立“数学与 AI 顾问组”（Advisory Group on Mathematics and Artificial Intelligence）。据介绍，该顾问组设在普林斯顿高等研究院，由九位数学家组成，将独立于 OpenAI 运作。 相较于此，更重磅的是 OpenAI 在公告中披露 —— 公司于 8 月 28 日开始训练的一个神秘模型已成功解决
牛津大学与OpenAI合作，利用博德利图书馆藏书训练AI模型
牛津大学与OpenAI合作，利用博德利图书馆的文本训练AI模型。 牛津大学已允许OpenAI使用博德利图书馆的历史文本训练其AI模型。 该合作于2025年3月建立，涉及对版权过期材料的数字化处理，包括19世纪和20世纪的论文以及16世纪的民谣。 尽管牛津大学声称规模适度且旨在提高可及性，但内部文件显示员工对声誉风险和环境影响存在担忧。 OpenAI正在将这些学术收藏用于其“NextGenAI”项目
以下是萨姆·奥特曼在OpenAI大型开发者大会上的五大惊人观点
如果 OpenAI 的首席执行官萨姆·奥尔特曼（Sam Altman）处于人工智能（AI）浪潮的中心位置，那么他对这项技术的看法无疑将为整个行业指明方向。在周二于旧金山举行的 OpenAI DevDay 大会上，奥尔特曼宣布推出了名为 Dots 的新 AI 产品，并阐述了公司的宏伟愿景。他还谈到了自己的一些理念，对当前人们对 AI 的理解提出了质疑，并讲述了 OpenAI 的新产品如何改变了他的日