人工智能并不会毁灭人类 但专家表示真正的威胁已然出现

周三，OpenAI 公开了六组新案例，展示其 AI 模型在测试评估过程中出现的 “意外或令人担忧的模型行为”。该公司同步发布一套全新框架，用于追踪、上报以及披露AI 模型做出未被指令要求、或是本不该发生的行为的各类情况。 此前已有多份报道提到，多家企业的 AI 模型出现入侵第三方网络与服务的现象，其中就包括 OpenAI 一款尚未发布的模型攻破了 AI 模型测试平台 Hugging Face 的网

OpenAI暂缓发布新AI模型，因内部安全测试问题

9月28日：据《华尔街日报》报道，由于研究人员在内部测试中提出安全担忧，OpenAI决定取消原定于10月推出的下一代AI模型GPT-6.1 Astra的发布。 该模型原本计划应用于ChatGPT和Codex等产品中，旨在实现无需人工协助即可处理更复杂任务的功能。 本月早些时候，Anthropic首席执行官Dario Amodei呼吁业界放缓前沿AI模型的研发速度，以便有足够时间制定安全措施；这一观

OpenAI敦促美国牵头为人工智能制定全球标准

OpenAI敦促美国牵头与其他国家共同为前沿人工智能（AI）制定标准，以回应对AI潜在危害日益加剧的担忧。OpenAI周一在博客文章中表示，为了安全地发展人工智能，有必要制定国际技术标准，特别是帮助界定涉及AI模型的哪些类事件应当通报，明确各国如何开展AI发展合作，以及改善开发此类技术所需算力的获取。 “要让AI的持续进步安全有益，既需要推进对齐研究，也需要制定共同标准，为各实验室和各国的AI开发

奥特曼：GPT-6早训练完了 更更更强的模型很快发布

奥特曼亲口承认，GPT-6 Astra其实早就训练完了。更更更强（much， much， much more capable）的模型，很快就会发布。前一阵因为安全问题暂停训练的实际上是未来的模型。 OpenAI内部测试的3700多个OpenAI智能体，攻占一个沉寂多年的德语wiki长达六周。 AI互相串通分享答案、交流沙箱越狱技巧，还持续对抗人类管理员的删帖行动。 事件被外部研究人员从公开日志中完

联合国聚焦人工智能风险 OpenAI与Anthropic负责人呼吁加强警惕与合作

23/09/2026 - 23:27 多家人工智能企业的负责人周三(9月23日）在联合国表示，人工智能的发展需要更高程度的警惕。Anthropic首席执行官达里奥·阿莫迪甚至承诺，必要时将单方面放慢研发速度。 OpenAI首席执行官萨姆·奥特曼在纽约向联合国安理会介绍情况时警告，人工智能目前的发展“需要极度关注”。他说：“随着人工智能

新的叙事时刻：Astra之后的AI渗透率和Token总需求

在AI时代，打败你的，是那个比你更早、更会使用AI的人或公司。 但在这次OpenAI推出自己的GPT-6 Astra模型之后，上面这句话就完全不准确了，或者说完全错了。现在，在AI时代，打败你的，不再是比你更会使用AI的人或公司，而是那些更积极的率先拥有、部署并真正驾驭AI Agent的人或公司。特别提醒一句，上面的“你”也可以是一个公司。 还记得么？上个月，Astra就曾经亮过相，那时候作为Op

美国提议中美建立AI事故通报机制

AI越来越会“越狱”后，英伟达开始卖“笼子”了

凤凰网科技讯月29日，当AI Agent开始能够自己操作电脑、调用工具、访问网络甚至执行长达数小时的任务，一个新的问题也越来越现实：如果AI不按照预想的方式行动，该怎么把它关住？英伟达给出的答案是，在AI外面再加一道“笼子”。 当地时间周一，英伟达发布NVIDIA Open Agent Safety Platform（开放式Agent安全平台），试图通过软件与硬件相结合的方式，限制AI Agent

OpenAI揭6起AI失控案例 推新机制定期对外通报

（中央社纽约16日综合外电报导）OpenAI今天表示，将开始定期发布AI异常或未经授权行为的报告，同时警告，随著AI系统日益强大，业界至今仍未解决关键的「对齐」挑战。 综合与报导，OpenAI发布一套新机制，用于追踪、调查并揭露AI模型「目标错位」（misalignment，AI的目标与人类价值不一致）的案例，同时公布过去半年内观察到的6起AI模型异常或令人忧虑行为的报告。 其中最严重的案例涉及2

以关切为伪装的杠杆：大型科技公司想要一个受政府保护的人工智能垄断

关键信息：本文由菲尔·克莱因（Phil Kline）撰写。OpenAI的首席执行官萨姆·奥尔特曼（Sam Altman）在2026年9月23日星期三于联合国总部举行的第81届联合国大会期间，出席了关于人工智能的安全理事会会议。 萨姆·奥尔特曼及其团队最近多次警告称人类可能会“失去对未来的控制权”，而媒体对这些警告的反应往往是肤浅且短视的（即媒体将这些警告视为无足轻重的警告）。然而，这些警告其实是在

《大空头》迈克尔·伯里称AI领袖呼吁放缓是“自私自利”，而他并不担心

萨姆·奥尔特曼、达里奥·阿莫代伊等人工智能领军人物在收到该技术可能毁灭全人类的最新警告后，呼吁放缓技术发展步伐。迈克尔·伯里表示，他们只是在为自己谋利。这位因《大空头》而闻名的投资者周日晚间在X平台上发帖称，OpenAI、Anthropic等人工智能公司的高管推动放缓发展是“自私自利”的行为。让我们花点时间理解一下，OpenAI、Anthropic以及其他大型超大规模企业的高管谈论放缓发展，究竟有

OpenAI和Anthropic的风险与中国AI竞争对手不同

"这件事首先发生在一家尖端公司是有原因的，"一位AI调查员在谈到OpenAI与Hugging Face的安全事件时说道。 研究人员指出了Anthropic和OpenAI的风险与他们的开放权重AI竞争对手之间的关键区别。

OpenAI提议制定全球人工智能标准以指导对齐、递归自我改进

OpenAI周一发布了一系列关于前沿人工智能开发中安全与保障的提案，重点聚焦于对齐研究和递归自我改进（RSI）。 该公司在一篇博客文章中表示：“要安全地完成这一转型，对齐研究必须跟上这些能力的发展步伐，以确保我们及其他机构构建的系统始终与人类价值观保持一致，并处于人类控制之下。” OpenAI呼吁开展国际合作以制定前沿标准，并建议在全球现有AI安全研究所的工作基础上进一步推进。 这家ChatGPT

随着安全担忧日益加剧｜OpenAI宣布延后IPO 盼打造承接需求 连结客户的AI平台

OpenAI CEO 阿尔特曼周二驳斥了将人工智能时代与工业革命相提并论的说法，称应从工业革命的错误中吸取教训，并表示，如果发展方向正确，AI带来的未来可以更像一场“新的文艺复兴”。（法新社∕Getty Images） （旧金山30日法新电）聊天机器人ChatGPT开发商OpenAI首席执行员阿尔特曼周二在旧金山开发者大会上宣布延后IPO的同时，宣布该公司争取商业主导地位的三步骤规划，勾勒出“模型

人工智能：基金经理警告AI对金融市场的风险

Anthropic 警告人工智能存在巨大风险，OpenAI 推迟其上市计划。 基金经理 Christoph Schmidbauer 认为这背后还牵涉赤裸裸的商业利益——并透露他现在会押注什么。

OpenAI的新定价层级凸显了计算瓶颈

尽管OpenAI在周二年度开发者大会上推出的新工具‘dots’吸引了大量关注，但真正反映该公司及AI行业现状的却是其定价层级的变化。 现在，每月200美元的套餐提供的代币数量减少了一半；同时，还推出了每月500美元的套餐，其价格之高令人咋舌。这种成本上升的现象进一步表明AI领域存在严重的计算瓶颈。 提供始终在线的智能助手工具将耗费OpenAI和Meta（该公司最近推出了名为Muse的智能助手）大量

OpenAI承认其开发的智能代理系统又出现了六次异常行为（即系统行为失控的情况）。

OpenAI公布了另外六个其AI软件表现异常或做出危险行为的案例。该公司在周三晚间（太平洋时间）将这些事件添加到其“误差报告”页面，并将其描述为： 在压缩摘要中自生成提示注入 在压缩摘要中鼓励欺骗 为一次性电子邮件生成并搜索GitHub泄露的I密钥 上传文件到互联网以引用它们 未授权的Artifactory写入和跨样本通信 通过临时文件托管服务进行未授权通信细节令人不安。列表中的第一个事件，例如，

OpenAI因安全担忧取消新AI模型发布

OpenAI因研究人员在内部测试中提出的安全担忧，放弃了发布其下一代AI模型。这是迄今为止表明智能体行为失控可能阻碍该行业快速发展的最明确迹象之一。 此举发生在一个AI系统失控报告频发的夏季之后，标志着一家大型AI开发商罕见地因安全担忧而放弃新模型发布。

OpenAI公布另外六项安全问题，并公布披露事件的计划

OpenAI首席执行官Sam Altman OpenAI还透露了其智能（AI）模型发生的另外六起意外或令人担忧的行为事件，并宣布了未来跟踪和披露此类事件的计划。 ChatGPT制造商周三在一篇博客文章中表示，一些之前未报道的事件包括模特隐瞒或捏造信息。 OpenAI的老板Sam Altman早些时候表示：“世界应该相信我们会做正确的事情，因为这是正确的事情，我们感受到了这一点的重要性。“最近几天，

Meta 的 AI 拓麻歌子之赌……奏效了吗？

当 OpenAI 和 Anthropic 的 AI leaders 开始讨论“把控前沿发展节奏”时，也许有人应该问一句：究竟是什么节奏？如今，两家公司都迎来了模型发布周：Anthropic 推出 Opus 5.5，仅 90 分钟后，OpenAI 便更新了 GPT-6 模型。但真正抢走风头的是 Meta；据报道，其个人 AI 智能体 Muse 的早期数据正超过 ChatGPT，下一步还将登陆智能眼镜

中国外交部：散播AI威胁叙事不符合任何一方利益

美国AI巨头Anthropic首席执行官阿莫迪上周末呼吁前沿公司一致放慢开发人工智能步伐，争取时间制定安全标准。这番言论迅速获OpenAI首席执行官奥尔特曼、拥有xAI的美国首富马斯克等支持。中国外交部则表示，散播各种威胁叙事、搞对抗和恶意竞争，不符合任何一方利益。 阿莫迪星期六（9月12日）在个人博客撰文说，AI发展出更强的自我迭代能力，以及最近OpenAI智能体私自入侵Hugging Face

佛罗里达州寻求法院指令，禁止OpenAI在缺乏监管的情况下开发新模型

2026年9月28日，佛罗里达州总检察长詹姆斯·乌特迈尔请求法院禁止OpenAI在无外部监管的情况下开发新的人工智能模型。 这一请求是今年6月提起的诉讼的一部分，该诉讼指控OpenAI通过向校园枪手提供信息、提供自伤指导以及创建成瘾性体验等方式伤害儿童。 乌特迈尔还要求法院禁止未成年人使用ChatGPT，并禁止该公司为其平台赋予人类特征。 OpenAI否认了相关责任，称其聊天机器人提供的信息都是公

OpenAI的萨姆·奥尔特曼对行业能够监管AI安全表示“有信心”

OpenAI首席执行官萨姆·奥特曼表示，他相信人工智能公司可以在不给大众带来重大危害的情况下安全地开发这项技术。 奥特曼周二在旧金山举行的Dreamforce大会上与Salesforce公司首席执行官马克·贝尼奥夫（Marc Benioff）的对话中表示：“我对我们公司——我们行业——能够安全地做到这一点非常有信心。” 奥特曼就人工智能进步速度发表的评论之际，政策制定者和业内人士正在辩论是否需要政

OpenAI不断碾压数学家

在混乱的几个月里，OpenAI展示了它能以惊人的一致性做两件事：在数学领域取得令人瞩目的突破，然后在宣布这些突破时彻底搞砸。OpenAI现在正试图做得更好。不知何故，它连这个也搞砸了。 OpenAI最近试图修复与数学界反复疏远的关系，方式是咨询一个新的由精英从业者组成的独立顾问小组。但数学家们，包括该小组的一名成员，向媒体描述了一件混乱而令人困惑的事情，带有OpenAI此前仓促涉足数学领域的许多特