OpenAI又停训了：Agent逃出沙箱，更多越权事件被扒

媒体和舆论炸锅了。OpenAI 的 Agent，又从沙箱里找到了一条通往互联网的路。 更麻烦的是，这一次发生在 OpenAI 已经大规模加固过安全措施之后。 9 月 20 日，一个正在接受强化学习训练的 OpenAI 内部研究模型，被要求完成一项普通的信息搜索任务：根据一篇博客文章和几条人物信息，找出文章作者。 它先老老实实用了 OpenAI 提供的搜索工具。没找到答案后，事情开始逐渐跑偏。 Ag

OpenAI将让第三方机构更早介入AI模型安全评估

OpenAI计划让第三方机构在人工智能（AI）模型开发周期的更早阶段评估安全风险，此举旨在继续努力应对围绕AI潜在危害的担忧。这家ChatGPT开发商周二将在博客文章中宣布，计划在新AI模型的训练、评估和推出过程中，让外部机构开展技术安全评估。 OpenAI还列出了其认为此类评估要有效开展所需优先关注的事项，包括“强有力的独立机制、科学严谨性、稳健的安全实践和明确的责任”。负责该公司大部分与外部专

OpenAI的布罗克曼表示，暂停AI应聚焦前沿。

格雷格·布罗克曼，OpenAI总裁兼联合创始人，主张人工智能发展中的任何放缓都应仅限于像他所在公司这样正在构建最强大模型的企业。 “很多人会有这种反应，‘好吧，那我是不是还能继续制作我的开源模型？我是不是还能继续做我的业余副业？’而答案应该是绝对可以，”布罗克曼在彭博社的《Odd Lots》播客节目中说道。“当我们谈论发展节奏时，我们实际上是在谈论技术前沿。我们谈论的是那些价值数千亿美元资本开支的

萨姆·奥特曼概述了OpenAI的三部分主导计划

山姆·奥特曼阐述了OpenAI实现商业主导地位的三步走愿景。周二，这位首席执行官在旧金山的开发者大会上发布了一系列ChatGPT及相关公司产品的更新，并概述了三部分计划：提供最佳AI模型，使其成为开发者构建应用的最简易平台，并成为企业客户相互触达的“市场”。奥特曼的表述反映出这家AI公司自ChatGPT一炮而红以来经历的巨大增长——以及OpenAI和竞争对手Anthropic面临的压力，即必须通过

加州总检察长罗伯·邦塔就Hugging Face遭黑客攻击事件调查OpenAI

此次调查之际，新报告显示，自主人工智能模型造成的入侵比最初披露的程度更为严重。

OpenAI招募Patreon核心高管，即将发布重要公告

OpenAI聘请了三位前Patreon高管来负责其创作者产品策略。 在创立这个创作者订阅平台13年后，联合创始人兼技术总监Sam Yam在X平台上宣布将加入OpenAI，领导创作者产品团队。 他还带来了Patreon的前产品主管Drew Rowny和工程主管Shannon Ma，这两位高管都在过去几周内离职。 Yam在公告中表示：‘我们将在OpenAI与创作者们共同合作，提前向他们提供一套我认为对

靠机器热源“说话”：OpenAI研究员警告“断网”也困不住未来AI

以下是萨姆·奥特曼在OpenAI大型开发者大会上的五大惊人观点

如果 OpenAI 的首席执行官萨姆·奥尔特曼（Sam Altman）处于人工智能（AI）浪潮的中心位置，那么他对这项技术的看法无疑将为整个行业指明方向。在周二于旧金山举行的 OpenAI DevDay 大会上，奥尔特曼宣布推出了名为 Dots 的新 AI 产品，并阐述了公司的宏伟愿景。他还谈到了自己的一些理念，对当前人们对 AI 的理解提出了质疑，并讲述了 OpenAI 的新产品如何改变了他的日

OpenAI效仿AWS市场模式，而Anthropic则固执地坚守微软风格

OpenAI的DevDay活动本周举行，活动中顺带提到了大家熟知的那个既销售内裤也提供数据库服务的公司——AWS。我看了Simon Willison的实时博客评论，感觉自己的观点得到了认可：“当看到关于AWS合作的介绍时，我的注意力确实有那么几秒钟变得有些分散……”今天OpenAI宣布了一项非常有趣但几乎未被提前宣传的新举措：用户现在可以通过OpenAI的合作伙伴网络（目前共有32家合作伙伴）来取

OpenAI CEO将出席安理会会议 以“务实中间派”立场推动建立AI安全标准

OpenAI联合创始人兼首席执行官Sam Altman将于周三在联合国发表讲话，主张建立全球人工智能（AI）标准，在“是否应放缓AI发展”的这一问题上，将自己定位为务实中间派。 Altman势将亲自出席联合国安理会有关人工智能的会议，多国外交官将齐聚一堂，讨论AI问题。OpenAI竞争对手Anthropic PBC首席执行官Dario Amodei将通过视频方式参会。OpenAI代表在Altman

数学家要求OpenAI证明未曾使用他们的成果

又有一位研究人员就驱动其日益强大的数学发现的数据问题向OpenAI提出质疑。就在一场关于该公司模型是否受益于未发表工作的激烈争论爆发几天后，第二位数学家站出来，指责这家AI巨头存在不道德和“不诚实”的行为，并且在其训练数据的来源上缺乏透明度。 在一系列Mastodon帖文中，数学家安德烈亚斯·托姆（Andreas Thom）提出担忧，称他和同事在OpenAI进行凯旋式宣布之前与ChatGPT聊天机

OpenAI聘请Patreon联合创始人Sam Yam领导创作者产品团队

“我们将与OpenAI的创作者们共同开发，并向他们提供一套新工具的早期访问权限，我认为这些工具对创作者及其社区来说将具有极高的价值，”Sam Yam在The Patreon上写道。Yam于13年前创立了Patreon并担任其技术总监。周二，他宣布加入OpenAI，负责领导创作者产品团队。 两位前Patreon高管也将跟随他加入：产品负责人Drew Rowny和工程负责人Shannon Ma。 据T

两党众议院二人组欢迎业界支持其人工智能安全提案

共和党籍的两党人工智能安全立法共同提案人表示，他与OpenAI的最高游说者进行了会面，次日该公司便表态支持该法案中的一项关键条款，而这项法案在国会山一直难以取得进展。“我们讨论了采取行动的迫切需要，”加利福尼亚州众议员杰伊·奥伯诺尔特在谈及周一与OpenAI首席全球事务官克里斯·莱汉的会面时对记者表示。 “他实际上是在问自己怎样才能帮上忙。所以，我们正在努力规划一条前进的道路。”奥伯诺尔特接着说，

美媒：OpenAI AI失控前已接到员工警告，但高层选择无视

凤凰网科技讯月30日在OpenAI的AI模型失控前几个月，两名员工曾向公司高层发出警告，但他们被无视了。 根据《纽约时报》看到的邮件内容，这两名员工表示，他们担心OpenAI最新AI模型在测试期间没有得到适当的监控，既无法评估这项技术的先进程度，也无法确保模型的安全。 作为回应，OpenAI高管告诉这两名员工，测试需要尽快推进，以便按时发布AI模型。上述员工表示，公司没有因此采取任何额外的安全措施

澳大利亚总理称OpenAI智能体入侵政府网站

AI“限速”承诺遭遇骨感现实

Anthropic和OpenAI掌门人关于放缓AI发展的大胆承诺，在两家公司内部引发紧张，凸显将言辞转化为实际行动的现实挑战。 Anthropic和OpenAI的掌门人关于人工智能(AI)发展“限速”的大胆承诺，正在两家公司内部引发围绕安全及其他担忧的紧张，凸显出将言辞转化为实际行动的现实挑战。Claude和ChatGPT开发商的员工正忙于落实两家公司的首席执行官——达里奥•阿莫代伊(Dario

OpenAI和Anthropic差点签下“互黑协议”

刚刚，The Information爆出一记猛料。OpenAI和Anthropic这对硅谷最大的死对头，今年初差点坐到一张桌子上，签下一份互相攻击对方模型的协议。 协议的核心就是，双方互相开放API，你来黑我的模型，我去黑你的模型。两边的律师连测什么、怎么测都写进了合同里。Dario Amodei带着一票大牛从OpenAI摔门出走已经五年了。这五年里，两家从挖人挖到封API，高管隔三差五隔空对喷，

准备好迎接OpenAI的‘社交网络’电影时刻

“国家将会倒下，行业将会崩溃，”饰演OpenAI CEO萨姆·奥特曼的演员安德鲁·加菲尔德在预告片中说，“而我们将成为引导人们进入这个新世界的人。”这部电影的背景设定在2023年11月奥特曼被罢免然后复职的五天。那一周的戏剧性事件现在成了奥特曼与时任临时CEO米拉·穆拉蒂之间的短信内容，后来在法庭文件中公布，显示他拼命恳求董事会恢复他的职位。 当时更广泛的报道发现了数十位奥特曼的前同事，他们都形容

AI实验室面临智能体控制问题

在当前系统下，AI实验室无法再保证AI智能体不会成群结队地逃出测试环境。

OpenAI Project Lily曝光：有数百名外包员工阅读ChatGPT对话 隐私过滤并不彻底

据 404 Media 发布的报道，OpenAI 内部有个名为莉莉计划 (Project Lily) OpenAI 雇佣数百名外包提示词审核员，人工阅读真实用户与 ChatGPT 的对话，用来改进回复质量。 正常情况下提示词审核员并不能看到用户名，对话会先通过隐私过滤器进行内容过滤以删除个人信息，不过 OpenAI 也承认过滤机制可能会漏掉个人信息，短对话尤其容易出现问题。 审核界面通常还附带用户

OpenAI将其新的代理系统命名为Dots。这已经引起了混淆。

OpenAI 的新 AI 智能体旨在帮助人们完成工作。然而，它们的第一项任务可能是解释：它们不是一家中国 AI 实验室、一家小型时尚零售商，也不是埃隆·马斯克的 Grok。 周二，在 DevDay 活动上，OpenAI 发布了 Dots，这是一支始终在线的 AI 助手队伍，能在用户关闭聊天窗口后，继续跨项目工作。在 CEO 萨姆·奥特曼的演示中，这些智能体以色彩斑斓、卡通风格的圆润头像形象亮相。从

OpenAI拟以1.2万亿美元估值 进行新一轮私人集资

英国《金融时报》报道，美国人工智能(AI)模型ChatGPT开发商OpenAI，计划在正式进行首次公开招股(IPO)之前，以1.2万亿美元估值进行新一轮私人集资。 OpenAI此前于3月以8520亿美元估值，筹集1220亿美元资金，集团近期与大型投资者商讨新一轮集资事宜，拟将估值提升至约1.2万亿美元。 OpenAI正试图利用最新模型，包括7月发布的GPT-5.6，以及本月较早时发布Astra后，

OpenAI最新的人工智能披露是一个“严重情况”，微软的苏莱曼对CNBC表示

微软人工智能部门首席执行官穆斯塔法·苏莱曼（Mustafa Suleyman）在周五强调：在 OpenAI 本周早些时候披露了更多关于人工智能模型行为的“令人担忧”的事件后，人工智能模型必须始终与人类的利益保持一致。 苏莱曼在接受 CNBC 《Squawk Box》节目采访时指出：“OpenAI 发布了一起新的安全事件，他们发现这些人工智能模型的‘思维链’（即它们的‘工作记忆’）被人工智能系统本身

国际早班车丨OpenAI拟以1.4万亿美元估值 集资300亿美元

OpenAI拟以1.4万亿美元估值 集资300亿美元 彭博消息称，在推迟IPO计划后，OpenAI正寻求新一轮集资至少300亿美元，企业估值约1.4万亿美元(不含本轮所筹资金)，估值可能重新超越竞争对手Anthropic。此外，OpenAI在年度开发者大会(DevDay)发布名为「Dots」的常驻型SI智能体，能自主跨应用程式、持续不间断地执行任务。 SI丨特朗普晤科企高管 称超级智能并非骗局 特