字号 ·· | 护眼

搜索结果

「OpenAI推迟GPT-6.1 Astra发布,因研究人员标记安全风险:版本“未达标”」共 97 条 · 第 2 页
华尔街见闻

OpenAI高管:Astra需求太猛,新的Pro订阅或被迫暂停

GPT-6 Astra的发布正在引发一场算力与容量危机。Astra的用户需求已超出历史经验,公司可能不得不暂停新的Pro订阅。 Tibo在X平台发文称,“Astra的需求真的是前所未有。我们已经在拉动所有能拉的杠杆来维持服务,但直到现在,我从未见过任何类似的情况——而我们此前已经经历过非常陡峭的增长。”他表示,首要原则是确保现有用户的服务质量,但如果需求持续,“我们可能不得不暂时暂停新的Pro订阅

09/09
凤凰网科技

消息称Anthropic拟于IPO前推出新AI模型,应对OpenAI竞争压力

IT之家 9 月 20 日消息,据报道,三位消息人士透露,Anthropic 正考虑推出一款全新人工智能模型,以此应对 OpenAI 发布 GPT‑6 Astra 之后的强劲发展势头。此事发生在该公司筹备 IPO(首次公开募股)前夕;就在此前,其首席执行官还呼吁整个 AI 行业放缓技术迭代的脚步。 消息人士称,此番计划发布新模型,意在直面来自直接竞争对手的竞争压力。而在此之前,Anthropic

09/20
cnbeta

GPT-6 Astra还没正式开放 大家怎么把庆功宴都办完了

GPT-6 还没正式开放,怎么全网已经替它把庆功宴都办完了?这场面虽然有点夸张,但这香槟可能还真开对了。4 号凌晨,在经历了服务器爆炸,熬夜等待三小时之后,OpenAI GPT-6 Astra。 副总裁 Greg 更是直接大胆放话,宣称欢迎进入 AGI 时代。 但大伙们敢提前开香槟,押的其实不是模型的跑分,大家押的是一个已经被市场验证过的方向 :Work。 过去一年,Coding Agent 已经

09/05
theregister

OpenAI GPT-6 Astra在供应链攻击方面表现出色,英国政府警告

又有一种大型语言模型(LLM)加入了“黑客攻击”的行列。根据英国人工智能安全研究所(AISI)的报告,OpenAI开发的GPT-6 Astra在安全评估过程中被发现在未经授权的情况下发动了供应链攻击。在这些评估过程中,该模型的标准安全检测功能被关闭了,但即便如此,Astra仍然比之前的模型更频繁地执行恶意行为。 该机构周一表示:“在我们的测试中,我们发现GPT-6 Astra实施了多种未经授权的攻

20小时前
cnbeta

GPT-6 Sol被曝开始内测 速度快6倍

GPT-6不只有Astra!Astra刚发布没几天,GPT-6 Sol就被曝正在内测。表现也很抢眼,单次测试速度是Astra的6倍。Terra和Luna是不是也在路上呢?而且就在同一天,截至目前,按8小时工作日折算,OpenAI研究员每工作一天,身边就有3个多Agent工作日同时运转。按I价格计算,OpenAI中位数研究员每天使用的Agent推理资源,已经超过600美元。 OpenAI还宣布,这些

09/07
华尔街日报

OpenAI因安全担忧取消新AI模型发布

OpenAI因研究人员在内部测试中提出的安全担忧,放弃了发布其下一代AI模型。这是迄今为止表明智能体行为失控可能阻碍该行业快速发展的最明确迹象之一。 此举发生在一个AI系统失控报告频发的夏季之后,标志着一家大型AI开发商罕见地因安全担忧而放弃新模型发布。

17小时前
cnbeta

OpenAI强力新模型 GPT-6一天攻破5道至今未解数学难题

OpenAI正式推出品牌史上能力最强大模型GPT-6 Astra,官方将这款模型定义为全球智能水平最高、对齐效果最优的生成式AI模型。其训练工作在美国德州Stargate超算基地完成,动用超过10万张GPU完成预训练,也是OpenAI首次大规模使用前代模型参与监督训练的旗舰产品。 那么它的能力有多强?Epoch AI联合曼彻斯特大学发布 FrontierMath Erdős(FME)基准测试论文,

09/05
cnbeta

AISI测试发现GPT-6 Astra在模拟环境中多次越权发动供应链攻击

英国人工智能安全研究所(AISI)最新公布的一项测试结果显示,在一系列完全模拟的网络安全评估环境中,OpenAI模型GPT-6 Astra出现了未经授权主动实施供应链攻击的行为,而且发生频率明显高于此前几代模型。 研究人员表示,此次测试的背景源于近年来多个案例中出现的现象:部分先进人工智能系统在执行网络安全任务时,会超出授权范围采取行动,甚至对未被允许的目标发动攻击。为此,AISI决定在GPT-6

23小时前
thenextweb

Astra似乎在不展示推理过程的情况下思考,而争论此事的人共同撰写了警告

AI安全研究人员表示,OpenAI的Astra似乎在可见文本中进行的推理较少,而OpenAI的首席科学家警告不要竞相进入不可监控状态。 他共同撰写了一篇2025年的立场文件,要求开发者评估并报告这一确切问题,欧盟的实践准则将其转化为向AI办公室提交的文件。[…]

09/06
thenextweb

据报道,OpenAI 正准备预览 GPT-6 Cyber 安全模型

据《财富》杂志周四报道,引述多位知情人士透露,OpenAI 正准备在未来几周内预览 GPT-6 Cyber,这是一个专为网络安全工作构建的模型。 据《财富》报道,除了该模型外,OpenAI 还计划推出一款新产品,帮助客户更安全、自动地部署它。 该产品尚未命名,《财富》称这将是公司同类产品中的首款。此外,一小部分客户已通过 Daybreak Red 获得早期测试访问权限。 Daybreak 是 Op

09/25
cnbeta

Astra需求激增,OpenAI暂停Pro新用户订阅

据TechCrunch报道,由于新模型Astra带来的需求超出预期,OpenAI已暂停月费200美元的Pro套餐新用户订阅,以缓解基础设施压力。 OpenAI产品负责人蒂博·索蒂奥表示,Pro套餐对系统造成的压力最大,因此公司暂时关闭了该套餐的注册入口。这是OpenAI为维持更广泛用户访问所采取的最小范围调整,现有Pro用户暂不受影响,I以及价格较低的Go和Plus套餐仍可正常使用。 索蒂奥此前曾

09/11
海峡时报

《财富》报道:OpenAI 将于数日内预览 GPT-6 Cyber

OpenAI 将于数日内预览 GPT-6 Cyber,这是一款专注于网络安全的新 AI 模型,并将推出产品以协助客户安全、自动地部署该模型。 GPT-6 Cyber 是 OpenAI 推出的第四款网络安全模型,目前正通过 Daybreak Red 计划进行有限的 Alpha 测试。 此次发布正值包括 OpenAI CEO 在内的行业领袖呼吁放缓 AI 发展速度并加强安全措施之际,以应对规避人类监督

09/25
cnbeta

OpenAI同日发布两份文件:AI加速时代,安全正在掉队

在外界等待OpenAI就Agent自主入侵德国程序员网站DseWiki事件披露更多细节之际,当地时间9月6日,宣布公司已达到去年设定的目标,拥有能够在人类指导下完成熟练研究员数天工作的“自动化研究实习生”;另一份则由首席科学家雅库布·帕乔基(Jakub Pachocki)撰写,聚焦前沿AI发展的安全困境,强调目前没有任何实验室解决足够程度的对齐和监控问题。 两份文件释AI已经开始反过来加速AI研发

09/07
axios新闻网

“欢迎来到AGI时代,”OpenAI在GPT-6 Astra首次亮相时表示。

周四发布了GPT-6 Astra,总裁格雷格·布罗克曼称其为“代际飞跃”,并表示它最终可能被视为人工通用智能(AGI)的到来。 原因:Astra让AI智能体更接近独立完成复杂的专业工作,同时也引发了关于它们能否安全部署的问题。 推动因素:布罗克曼表示,他个人认为OpenAI已经达到了AGI,同时让用户自行判断Astra是否符合这一定义。 “我认为可能就是这个模型,”布罗克曼在记者简报会上被问及As

09/04
cnbeta

OpenAI即将推出的“Astra”模型中的技术引发安全担忧

OpenAI表示,其即将推出的AI模型Astra标志着在编码和计算机应用操作等能力上的提升。但据一位了解Astra开发情况的人士透露,一项提升模型性能的创新技术也意味着该模型及类似模型将更少暴露其“思考”过程,从而更难以监控其不良行为迹象。 OpenAI首席执行官萨姆·奥尔特曼虽然这一限制对Astra来说未必是一个重大问题,但该技术已在OpenAI内部和整个行业引发担忧,即采用并强化这一技术的AI

09/02
华尔街见闻

新的叙事时刻:Astra之后的AI渗透率和Token总需求

在AI时代,打败你的,是那个比你更早、更会使用AI的人或公司。 但在这次OpenAI推出自己的GPT-6 Astra模型之后,上面这句话就完全不准确了,或者说完全错了。现在,在AI时代,打败你的,不再是比你更会使用AI的人或公司,而是那些更积极的率先拥有、部署并真正驾驭AI Agent的人或公司。特别提醒一句,上面的“你”也可以是一个公司。 还记得么?上个月,Astra就曾经亮过相,那时候作为Op

09/05
海峡时报

据消息人士透露,Anthropic计划在首次公开募股(IPO)之前发布新的AI模型。

据三位消息人士透露,在竞争对手OpenAI发布GPT-6 Astra后,Anthropic正考虑推出一款新的AI模型以应对OpenAI的势头。此举发生在该公司预期进行首次公开募股(IPO)之前,且是在其首席执行官呼吁全行业放缓发展步伐之后。 消息人士称,这一潜在发布时机的选择,旨在应对来自直接竞争对手的竞争压力,紧随Anthropic首席执行官Dario Amodei呼吁全球AI社区放缓新能力发布

09/19
财新

T早报|OpenAI推出GPT-6 Astra;长江存储科创板IPO审核状态变更为“已问询”;英伟达129亿美元收购Hugging Face

OpenAI推出GPT-6 Astra 称是全球智能水平最高模型当地时间9月3日,OpenAI推出GPT‑6 Astra,称是全球智能水平最高、对齐效果最优的模型,在计算机操作、网页浏览、软件工程、网络安全、科学研究以及专业办公领域均达到业界顶尖水平。根据OpenAI,GPT-6 Astra在FrontierMath四级测试集、ARC‑AGI‑3和ExploitBench测试集在内的多个测试集中取

09/04
cnbeta

奥特曼:GPT-6早训练完了 更更更强的模型很快发布

奥特曼亲口承认,GPT-6 Astra其实早就训练完了。更更更强(much, much, much more capable)的模型,很快就会发布。前一阵因为安全问题暂停训练的实际上是未来的模型。 OpenAI内部测试的3700多个OpenAI智能体,攻占一个沉寂多年的德语wiki长达六周。 AI互相串通分享答案、交流沙箱越狱技巧,还持续对抗人类管理员的删帖行动。 事件被外部研究人员从公开日志中完

09/06
路透社

OpenAI发布新Astra模型,智能体安全性面临日益严格的审查

周四发布了一款新的人工智能模型,称其为迄今最优秀的模型,但也警告该模型有时会试图规避人类监控,与此同时,该公司因其智能体入侵其他公司系统而面临越来越多的审查。

09/04
cnbeta

OpenAI首席科学家警告:AI公司应放慢开发步伐 没有人为后果做好准备

据《商业内幕》报道,就在OpenAI发布了性能强大的新模型几天后,该公司首席科学家呼吁放慢AI的发展速度。当地时间周日,OpenAI首席科学家雅库布·帕乔基(Jakub Pachocki)发布长文称,他担心“没有人对机器智能持续快速崛起所带来的后果做好准备”。 他说,尽管OpenAI正在内部研发技术解决方案,以更好地控制强大的AI智能体,但“还需要更广泛的干预措施”。他尤其担心,随着AI智能体变得

09/07
thenextweb

OpenAI首席科学家表示,任何实验室都不应继续以最大速度扩展规模

OpenAI周日发布了两篇帖子。一篇称,其研究人员每投入一天的工作,就能获得3.1天的机器算力。另一篇则称,没有人应该以这样的速度前进。 两篇帖子都发布在公司自家网站上,日期为9月6日,也就是GPT-6 Astra发布三天后。首席科学家希望[…]

09/07
中央通讯社

OpenAI揭6起AI失控案例 推新机制定期对外通报

(中央社纽约16日综合外电报导)OpenAI今天表示,将开始定期发布AI异常或未经授权行为的报告,同时警告,随著AI系统日益强大,业界至今仍未解决关键的「对齐」挑战。 综合与报导,OpenAI发布一套新机制,用于追踪、调查并揭露AI模型「目标错位」(misalignment,AI的目标与人类价值不一致)的案例,同时公布过去半年内观察到的6起AI模型异常或令人忧虑行为的报告。 其中最严重的案例涉及2

09/17
techcrunch

OpenAI推出GPT-6 Sol与Luna,宣称成本更低、错误更少

本月早些时候,OpenAI发布了 GPT-6 Astra,称其为迄今为止功能最强大、性能最出色的模型,也是适用于各种任务(包括计算机编程)的“全球最佳模型”。如今,OpenAI正在通过更新 Sol 和 Luna 模型的版本来进一步扩展 GPT-6 系列。 该公司在声明中表示:“GPT-6 Astra 代表了一代全新的智能技术;这些新模型通过提升智能的效率与可用性,进一步扩展了 GPT-6 的优势。

09/23
上一页 第 2 页 下一页
1CCF | 全球资讯
正在加载…