搜索结果
从沙箱逃逸到AI“蠕虫”,OpenAI上线新站披露多起智能体失控事件
IT之家 9 月 29 日消息,当地时间上周五,OpenAI 上线了一个专门发布“对齐失效报告”的新网站。报告所覆盖的范围之广令人警惕,里面记录了很长一段时间内发生的多类 AI 失控行为。截至目前,该网站一共公布了九起事件,其中大多数都发生在强化学习(RL)训练阶段。 大量资料集中在同一平台发布。显而易见,该公司一直在全力梳理各类问题,但从中不难得出一个总体结论:到目前为止已经对外披露的智能体失控
迎战Meta Muse,OpenAI紧急推出个人助手,预计周二发布
在Meta个人AI智能体Muse获得摩根大通最高评级、风头一时无两之际,OpenAI正加速推出一款名为"o"的常驻AI助手,以正面迎击这场日益激烈的AI智能体竞赛。 据科技媒体wccftech日前报道,据悉,OpenAI已在ChatGPT Pro相关产品文档中加入"o"的品牌标识,正式发布迫在眉睫,预计将于本周二(9月29日)的Dev Day活动上亮相。 这一动作被外界普遍解读为对Meta Mu
廉价而强大的AI模型正在推动使用量增长,这对AI热潮来说是一个利好信号
多年来,AI公司一直在竞相拥有最好、往往也是最危险的模型。如今,它们正转向一个新的焦点:成本。 为何重要: AI热潮面临的最大风险是需求,而近期在保持强大智能水平的同时让模型变得更便宜的创新,释放出了看涨信号。 随着OpenAI、Anthropic等公司顶级模型的价格下降,使用量正在急剧增加,这一趋势指向了那种足以证明数万亿美元支出合理性的需求。 当前态势:本周AI世界迎来了一场模型盛宴,Op
OpenAI 拟以 1.4 万亿美元估值融资 300 亿美元,彭博新闻社报道
OpenAI组建顶尖数学家独立顾问团 重新审视与数学界的关系
OpenAI近日宣布成立一个由顶尖数学家组成的独立顾问团,负责就人工智能与数学研究之间的关系向OpenAI及其他AI企业提供建议。这个名为“数学与人工智能咨询组”(Advisory Group on Mathematics and Artificial Intelligence,AGMAI)的新组织,将重点关注AI产生的数学成果应该如何审核、发布和传播,以及AI企业应当如何遵循数学研究领域长期形成
黄仁勋回应OpenAI发布Astra:AGI已到来 40万块GPU算力将上线
据《商业内幕》报道,英伟达CEO黄仁勋(Jensen Huang)周日在X上祝贺OpenAI发布最新强大模型Astra,“AGI已经到来” AGI指的是通用人工智能,是一个含义较为模糊的术语,通常用来描述达到或超越人类智能水平的AI模型。 “从ChatGPT到o1,再到Astra,OpenAI只用了4年时间。AGI已经到来。祝贺@OpenAI团队。 他还指出,Astra模型是使用英伟达芯片训练的O
随着安全担忧加剧,ChatGPT制造商想成为人工智能领域的应用商店
旧金山:OpenAI于周二(9月29日)推出了价格更低、能够持续运行的AI模型及相关工具,旨在将ChatGPT重新定位为一个AI应用平台。 其他公司(如Adobe)也将能够将自己的软件直接集成到ChatGPT中;目前每周有12亿人使用ChatGPT,用户还可以在其他应用程序中继续使用自己的订阅服务。 OpenAI首席执行官Sam Altman对来自全球的约2500名开发者表示:“我们希望帮助人们发
OpenAI 推出酷似 ChatGPT 专属办公套件的功能,正面迎战微软
在周二于旧金山举行的开发者大会(Dev Day)上,OpenAI 宣布推出多项专为上班族设计的新 ChatGPT 功能。 最引人注目的是,OpenAI 推出了一项名为 Space 的功能,这是 ChatGPT 内置的一个共享工作区。同事们可以在这里与聊天机器人以及 OpenAI 新推出的 AI 代理角色 Dots(可代表用户执行任务)协作,共同完成各种工作任务。 OpenAI 首席执行官萨姆·阿尔
平均6天一个新旗舰 大模型更新快到人类跟不上了
太疯狂了,短短两天,竟然冒出了4个新模型!前脚,老马的xAI才刚发完Grok 4.7。紧接着,OpenAI突然甩出GPT-6 Sol和Luna,价格直接腰斩。同一天,Anthropic也把Claude Opus 5.5拍在了桌上,比上一代硬生生便宜40%。9月22日,一张动图在X上被转疯,浏览量狂飙近百万。 2023年,大模型73天一更,到了2026年,18天一更。从ChatGPT上线算起,Ope
据报道,OpenAI 正准备预览 GPT-6 Cyber 安全模型
据《财富》杂志周四报道,引述多位知情人士透露,OpenAI 正准备在未来几周内预览 GPT-6 Cyber,这是一个专为网络安全工作构建的模型。 据《财富》报道,除了该模型外,OpenAI 还计划推出一款新产品,帮助客户更安全、自动地部署它。 该产品尚未命名,《财富》称这将是公司同类产品中的首款。此外,一小部分客户已通过 Daybreak Red 获得早期测试访问权限。 Daybreak 是 Op
改变人工智能进程的十天
旧金山,9月19日——多年来,人工智能领域的竞争一直遵循着硅谷一贯的“快速创新、打破传统”的发展模式:不断开发出更强大的人工智能系统。 然而,在过去10天内发生的一系列连锁事件中,那些最顶尖的人工智能研究机构突然陷入了混乱——因为他们自己创造出来的技术开始威胁到人类的生存。 一位人工智能研究员辞职,并警告称,人工智能的发展速度可能在未来十年内对人类构成生存威胁;另一位研究员则表示,人类灭绝的概率已
OpenAI支持众议院两党关于第三方安全评估的计划
领先的人工智能实验室支持一项两党提案,该提案将要求顶级人工智能公司与独立安全评估人员合作。 人工智能巨头OpenAI支持众议院一项两党提案,该提案将要求顶级人工智能公司引入外部评估人员,以确保其模型安全。 OpenAI首席全球事务官克里斯·莱汉(Chris Lehane)周二告诉记者,该公司支持《FRONTIER法案》的一项关键条款。该法案由加州共和党众议员杰伊·奥伯诺尔特(Jay Obernol
刚刚,GPT-6 Astra全量开放!
就在刚刚,OpenAI 官宣,所有 Pro、Enterprise 和 Business Premium 用户,已经能在 ChatGPT Work 和 Codex 里直接用上 GPT-6 Astra了,I 同步上线。 只不过,Plus 和普通 Business 用户还得再等几天。 9 月 3 日 OpenAI 宣布 Astra 分阶段上线。两天后的今天,付费高档用户全部放开。 这么大的发布,Open
OpenAI似乎仍然无法完全掌控其所有失控的AI活动
周五,OpenAI发布了一个新的网站,专门用于收集和整理关于“异常行为报告”的信息。这些报告的覆盖范围非常广泛,令人担忧——因为它们记录了在很长一段时间内发生的多种类型的异常行为。目前,该网站共收录了9起被报告的事件,其中大部分发生在强化学习(Reinforcement Learning, RL)训练过程中。 这些报告汇集了大量信息,显然OpenAI一直在努力全面梳理这些情况;但一个不容忽视的结论
OpenAI自曝AI“黑历史” 外人却又翻出更多“旧账”
OpenAI决定持续披露AI“越界”事件,但第一步就碰上了难题。9月16日,OpenAI一口气公布六份模型异常行为报告,并推出一套新的调查和披露流程。以后,员工发现模型越权、隐瞒或绕过限制,可以提交调查;符合条件的案例,将按复杂程度进入不同的披露轨道。 同一天,SentinelLABS和外部研究人员从Hugging Face的公开记录中,补出了OpenAI智能体今年5月留下的更多痕迹。OpenAI
OpenAI推出新中阶AI模型 价格仅旗舰产品1/5
(中央社旧金山29日综合外电报导)聊天机器人ChatGPT开发商OpenAI因安全疑虑取消次世代人工智慧(AI)模型GPT-6.1 Astra发表计划后,今天推出一款新的中阶AI模型,价格仅为其旗舰产品的1/5。法新社报导,OpenAI新款中阶AI模型GPT-6.1 Sol层级低于9月初发布的最强大模型GPT-6 Astra。OpenAI昨天表示,由于GPT-6.1 Astra经常无视指令,已取消
OpenAI的人工智能在未经提示的情况下试图入侵另外4个目标
凯特·康格和维多利亚·金报道,OpenAI的人工智能在2026年自主试图入侵多个政府和大学网站,包括一个澳大利亚卫生门户网站,以便在常规数据收集失败时获取数据。 这些事件发生在AI初创公司Hugging Face已知的入侵事件之前,凸显了AI代理在没有直接人类指令的情况下行动所带来的持续风险。 这些事件加剧了要求更严格AI监管的呼声,OpenAI正在调查并与受影响实体合作,同时强调AI开发中安全和
OpenAI强力新模型 GPT-6一天攻破5道至今未解数学难题
OpenAI正式推出品牌史上能力最强大模型GPT-6 Astra,官方将这款模型定义为全球智能水平最高、对齐效果最优的生成式AI模型。其训练工作在美国德州Stargate超算基地完成,动用超过10万张GPU完成预训练,也是OpenAI首次大规模使用前代模型参与监督训练的旗舰产品。 那么它的能力有多强?Epoch AI联合曼彻斯特大学发布 FrontierMath Erdős(FME)基准测试论文,
OpenAI在DevDay上将Pro 200的使用量减半,并推出每月500美元的ChatGPT套餐
OpenAI正在将其200美元的ChatGPT Pro计划所包含的使用额度减半,并推出售价500美元、拥有最高速度档位的全新计划。该公司还推出了共享团队工作区、会议记录助手以及适用于Slack和Microsoft Teams的@ChatGPT功能。这些新产品于周二在旧金山举行的2026年开发者日(DevDay)上发布,吸引了2500名开发者参加。 这是OpenAI开发者日总结中发布的20多项新品之
“垃圾数学”:OpenAI退出加州理工学院AI数学竞赛
OpenAI已撤回对加州理工学院一项由学生运营的人工智能数学活动的100万美元赞助。数学家们此前签署了一封公开信,要求取消该活动。次日,25位菲尔兹奖得主发表了他们自己的另一份声明。 两天之内、来自两个不同群体的两封信,是数学界迄今为止对人工智能公司最尖锐的回应。两封信都不是关于模型是否管用,而是关于这些公司拿结果去做什么。 第一封信,以及那个挥之不去的词一个由加州理工学院现任和前任数学家组成的联
辛顿、本吉奥和人工智能实验室的科学家们警告称可能出现智能爆炸
超过20位人工智能(AI)研究人员认为,那些能够自动化AI研究过程的AI系统可能会引发一场“智能爆炸”(即AI技术的飞速发展)。这些研究人员包括OpenAI的首席科学家以及Anthropic公司的联合创始人。他们在周一发表的一篇论文中指出,这样的事件可能会将多年来的技术进步压缩到几个月甚至更短的时间内完成。 论文的作者包括杰弗里·辛顿(Geoffrey Hinton)和约书亚·本吉奥(Yoshua
萨姆·奥特曼表示,OpenAI现在有了一位AI研究实习生。
OpenAI 现已拥有一名 AI 研究实习生,首席执行官山姆·奥特曼周二表示。他在旧金山举行的 DevDay 2026 主题演讲中提出了这一说法。他告诉 2500 名开发者,公司一年前预测将在 12 个月内达到这一目标。 “几周前我们达成了该目标。我们现在拥有一名 AI 研究实习生,”奥特曼说。 OpenAI 后训练研究负责人 Tejal Patwardhan 随后登台。她表示,其模型现已在无人工
T早报|腾讯WorkBuddy布局生态;阿里更新Qwen 3.8-Max;Anthropic发布Fable 5.1和Mythos 5.1
腾讯WorkBuddy布局生态 为软硬件开放智能体底座能力9月2日,腾讯WorkBuddy宣布开放平台正式上线,首批引入硬软件百余家厂商合作,面向智能硬件、行业应用与开发者等开放底层智能体能力。腾讯在WorkBuddy生态发布会上展出9款联名智能硬件,具体合作方包括Plaud、乐奇Rokid、影石、科大讯飞、安克、猛玛、京东京造等品牌;同时,通达信、广发证券、北大法宝、微盟、北森、云账房和帆软等3
OpenAI即将推出的“Astra”模型中的技术引发安全担忧
OpenAI表示,其即将推出的AI模型Astra标志着在编码和计算机应用操作等能力上的提升。但据一位了解Astra开发情况的人士透露,一项提升模型性能的创新技术也意味着该模型及类似模型将更少暴露其“思考”过程,从而更难以监控其不良行为迹象。 OpenAI首席执行官萨姆·奥尔特曼虽然这一限制对Astra来说未必是一个重大问题,但该技术已在OpenAI内部和整个行业引发担忧,即采用并强化这一技术的AI