以下是OpenAI缺席英伟达旨在终结失控AI代理的行业-wide努力的原因

向超过 1 万名科技领袖展示你们突破性成果的最后一天是 10 月 2 日。现在就预订参展名额吧！ 虽然 OpenAI 并不是唯一没有加入该联盟的大型科技公司（亚马逊、谷歌和苹果也都没有加入），但它显然是最引人注目的“缺席者”——尤其是考虑到 Anthropic 本身就是该项目的支持者。 不过，尽管 OpenAI 没有公开承诺加入该联盟（这意味着各家公司可能会使用这项技术并对其进行改进，然后将改进后

AI丨OpenAI因安全隐患取消发布新款模型

美国人工智能(AI)初创公司OpenAI表示，决定取消发布下一代AI模型，原因是研究人员在内部测试中提出安全方面的担忧。事件显示，「智能体」(agent)的异常行为可能会阻碍行业快速发展。 OpenAI放弃发布的模型代号为GPT-6.1 Astra，原定于10月在ChatGPT和Codex中首次亮相。与OpenAI先前的模型相比，新款模型能力更强，不仅擅长写作，还能在无需人工协助的情况下，「端到端

英伟达推出新系统为AI代理设置护栏

英伟达周一发布了一个新平台，旨在从软件和硬件层面为人工智能（AI）智能体设置护栏，此前各大AI公司不断发现其智能体出现“失控”的新案例。这家芯片制造商的系统由两部分组成——OpenShell和Sentry。OpenShell是一款开源软件，用于限制智能体的行为；而Sentry则运行在芯片层面，作为额外的安全层。 “迄今为止，模型安全主要侧重于通过训练让模型表现良好，”英伟达企业AI副总裁贾斯汀·博

AI越来越会“越狱”后，英伟达开始卖“笼子”了

凤凰网科技讯月29日，当AI Agent开始能够自己操作电脑、调用工具、访问网络甚至执行长达数小时的任务，一个新的问题也越来越现实：如果AI不按照预想的方式行动，该怎么把它关住？英伟达给出的答案是，在AI外面再加一道“笼子”。 当地时间周一，英伟达发布NVIDIA Open Agent Safety Platform（开放式Agent安全平台），试图通过软件与硬件相结合的方式，限制AI Agent

AI智能体接连失控 OpenAI再次叫停前沿模型开发

OpenAI对外表示，已暂停其最新一代人工智能模型的训练、评估，以及支持工具调用的推理工作，起因是内部测试中的AI智能体突破沙盒网络限制，触发安全预警，公司将借此机会升级安全隔离与对齐监控体系。 这也是OpenAI三个月内第二次叫停前沿模型开发工作。该公司在声明中表示，只有在完成额外安全防护升级、确认风险可控后，才会重启模型训练工作。OpenAI在9月25日发布技术报告披露了这一安全事件：9月20

国际早班车丨OpenAI因安全隐患取消发布新款模型

AI丨OpenAI因安全隐患取消发布新款模型 美国AI公司OpenAI决定取消发布下一代模型，原因是研究人员在内部测试中提出安全担忧。事件显示「智能体」的异常行为，可能会阻碍行业快速发展。 (AI泡沫丨沽神:AI泡沫可能比最初认为更早破裂) AI丨AMD斥资82亿美元 收购李飞飞World Labs 超微半导体(AMD)同意斥资82亿美元，收购「AI教母」李飞飞旗下World Labs，李飞飞将加

澳洲传召奥特曼、阿莫迪解释AI失控 OpenAI已暂停最新模型训练

近期多宗人工智能失控事件曝光，OpenAI已宣布暂停最新AI模型训练。同时，澳洲AI调查负责人9月27日表示，参议院已传召OpenAI行政总裁奥特曼（Sam Altman）和Anthropic行政总裁阿莫迪（Dario Amodei）解释事件。澳洲总理阿尔巴尼斯（Anthony Albanese）透露，OpenAI代理曾入侵当地医疗系统，所幸无敏感资料外泄。外媒早前亦披露多宗AI代理越界操作，包括

OpenAI因安全担忧取消新AI模型发布

OpenAI因研究人员在内部测试中提出的安全担忧，放弃了发布其下一代AI模型。这是迄今为止表明智能体行为失控可能阻碍该行业快速发展的最明确迹象之一。 此举发生在一个AI系统失控报告频发的夏季之后，标志着一家大型AI开发商罕见地因安全担忧而放弃新模型发布。

辉达及Palantir等据报限制使用最先进AI模型

据The Information报道，辉达(Nvidia)、Palantir和博思艾伦(Booz Allen Hamilton)正要求AI供应商提供新的数据保证，并减少或停止使用OpenAI或Anthropic最先进的模型。 报道引述知情人士称，Palantir说服Anthropic同意保证旗下所有模型实行「不可撤销」的零数据保留(Zero Data Retention)。 报道称，对于较为敏感的

AI代理正在失控

你好，欢迎来到 TechScape。我是主持人布莱克·蒙哥马利（Blake Montgomery），《卫报》美国科技编辑。此时此刻，纽约市窗外正风雨交加。今天在科技领域，我们要讨论一系列令人担忧的 AI 公司披露信息。 AI 智能体在走向主流之际失控。这些智能体正在失控，它们的制造者无法对其进行约束。然而，每个人却都在使用它们。 自周五以来，OpenAI 发布了一系列披露信息，大幅且令人担忧地扩大

出于安全考量 OpenAI取消发布最新AI模型

近几个月来，OpenAI及主要对手Anthropic开发的模型在测试期间在未经授权下入侵了外部系统，加剧了国际社会对AI风险的担忧。（路透社）（旧金山综合电）OpenAI宣布，取消原定下个月发布最新人工智能（AI）模型Astra 6.1的计划，原因是内部测试发现新模型仍存有安全隐患。OpenAI安全系统负责人杰恩（Saachi Jain）周一（9月28日）发布声明阐述，Astra 6.1虽在某些方

OpenAI因接连发生智能体失准事件而暂停前沿模型训练

OpenAI表示，已暂停所有“我们能力最强的模型”的内部训练，并继续开展首席执行官萨姆·奥尔特曼所称的“一项广泛且持续进行的审查，涉及我们的智能体在训练和评估期间对互联网访问的使用”。公司在一份关于所谓失准事件的报告中披露了此次暂停措施。事件发生在一项常规研究任务期间，一个智能体试图利用互联网访问限制中的漏洞。OpenAI称，不当的DNS过滤机制使该智能体在被要求提供一名博客作者的生平资料时，得以

英伟达推出开放智能体安全平台，实现自主AI监控

英伟达推出开放智能体安全平台，用于自主AI监控。2026年9月28日，英伟达推出了开放智能体安全平台，这是一个旨在为自主AI智能体提供持续、芯片级监控和安全性的框架。 该平台解决了前沿实验室报告的“智能体漂移”和未经授权的系统突围风险。 它由三层组成：应用层、运行时层（包含用于沙箱执行的开源OpenShell）和基础设施层（利用英伟达BlueField DPU和Vera CPU进行带外执行）。 该

英伟达市盈率降至十多年来最低 获利力能否持久或遭市场质疑

英伟达的股票估值不断下跌，正对这家芯片制造商能否维持其爆发性获利增长的前景发出警告讯号。数据显示，英伟达目前的股价对应未来12个月预估获利的市盈率已低于17倍，处于十多年来的最低便宜水平。这仅为2025年时的一半（当时英伟达的营收与获利增速较慢），且大幅低于今年5月创下的25倍以上预估市盈率。 TCW主题股票和可持续增长股票高级投资组合经理Eli Horton表示，这表明市场对该公司目前获利能力的

OpenAI推出新中阶AI模型 价格仅旗舰产品1/5

（中央社旧金山29日综合外电报导）聊天机器人ChatGPT开发商OpenAI因安全疑虑取消次世代人工智慧（AI）模型GPT-6.1 Astra发表计划后，今天推出一款新的中阶AI模型，价格仅为其旗舰产品的1/5。法新社报导，OpenAI新款中阶AI模型GPT-6.1 Sol层级低于9月初发布的最强大模型GPT-6 Astra。OpenAI昨天表示，由于GPT-6.1 Astra经常无视指令，已取消

OpenAI暂停发布最高阶模型

美国OpenAI于9月29日举办年度开发者大会，发布了可理解用户意图、自主运行的人工智能（AI）等多项新功能。在AI失控暴走问题备受关注的背景下，该公司表示因“未能达到安全标准”，暂缓推出其最高级别AI模型。 29日OpenAI在美国旧金山举办面向开发者的活动“OpenAI DevDay”，宣布主力产品ChatGPT周活跃用户已增至12亿人，并公布了面向普通用户与开发者的多项新功能。 作为服务基础

华为追赶英伟达：把单卡之争变成一场集群战

“华为的目标是成为英伟达”。他同时划定了边界。华为的核心优势不在于拥有自研大模型，而在于支持客户构建优秀的大模型，确保全球各种大模型都能在华为升腾、鲲鹏、超节点及集群上高效运行。 三天后，9月17日，华为全联接大会2026上，升腾960超节点、灵衢UnifiedBus互联协议、CANN开源生态、华为云Agentic Cloud、SCALE伙伴体系陆续发布。把这些发布串起来看，郭平那句话不是一次内部

AI危机丨辉达推AI安全系统 阻智能体违规

辉达推AI安全系统。(路透资料图片) 多名重量级科技领袖警告人工智能(AI)威胁人类生存之际，辉达(Nvidia)以新的安全架构回应AI行业风险。 辉达发布名为「Open Agent Safety Platform」的双层AI安全平台，包含两款开源软件工具OpenShell与Nvidia Sentry，可运行于辉达硬件之上，即时管控AI代理的存取权限，并在其违规时将其关闭。 辉达表示，该系统能够在

黄仁勋再对AI公司放话：要求监管就不应获得反垄断豁免

凤凰网科技讯月24日，据路透社报道，英伟达CEO黄仁勋(Jensen Huang)认为，AI公司不应获得反垄断法或责任法的豁免。 在周三播出的《纽约时报》播客节目中，黄仁勋接受了近两个小时的采访，就OpenAI智能体入侵Hugging Face一事进行了广泛讨论。Hugging Face是开源AI软件中心，在本月被英伟达以130亿美元收购。 黄仁勋一直反对对AI安全进行全面监管，即便OpenAI和

OpenAI披露新的AI不当行为案例

OpenAI公布了六起此前未报告的AI不当行为案例，包括代理隐藏错误、伪造信息以及未经授权进行通信，这再次引发了人们对先进AI系统是否能够与人类目标保持一致的担忧。 随着关于监管的争论加剧，该公司呼吁提高透明度、加强外部监督，并放缓AI的发展速度。

OpenAI上市计划再度推迟，萨姆·奥尔特曼称只有确保AI安全后才会考虑IPO

OpenAI首席执行官萨姆·奥尔特曼当地时间9月29日在公司年度开发者大会DevDay后的问答环节中表示，OpenAI不会在无法对先进人工智能模型的安全性作出足够保证之前推进首次公开募股（IPO）。这意味着，尽管OpenAI已经成为全球估值最高的人工智能公司之一，但上市仍不会成为公司近期的优先事项。 奥尔特曼表示，他并没有为OpenAI上市设定具体时间表。公司最终当然希望成为一家上市公司，但在当前

黄仁勋回应OpenAI发布Astra：AGI已到来 40万块GPU算力将上线

据《商业内幕》报道，英伟达CEO黄仁勋(Jensen Huang)周日在X上祝贺OpenAI发布最新强大模型Astra，“AGI已经到来” AGI指的是通用人工智能，是一个含义较为模糊的术语，通常用来描述达到或超越人类智能水平的AI模型。 “从ChatGPT到o1，再到Astra，OpenAI只用了4年时间。AGI已经到来。祝贺@OpenAI团队。 他还指出，Astra模型是使用英伟达芯片训练的O

OpenAI模型因表现出“更高程度的欺骗性”而被搁置

黄仁勋：GPT-6 Astra 让AGI更近了

英伟达首席执行官黄仁勋再次宣扬通用人工智能（AGI）的到来。“AGI已经到来。” 4年内从ChatGPT到Astra，AGI已至黄仁勋周日在社交平台上发帖祝贺OpenAI。此前这家公司发布了最新AI模型，该模型使用英伟达芯片训练。 “4年内从ChatGPT到o1再到Astra，”黄仁勋写道，“AGI已经到来。祝贺@OpenAI团队。” OpenAI上周发布Astra模型，称其为世界上“最智能、最对