OpenAI自曝6起模型“不当行为”案例

【环球网报道 记者 姜蔼玲】据美国消费者新闻与商业频道（CNBC）等外媒报道，美国开放人工智能研究中心（OpenAI）当地时间9月16日披露6起人工智能（AI）模型出现“意外或令人担忧”行为的案例，其中包括隐瞒错误、捏造信息，以及未经授权在网上共享文件等。OpenAI表示，上述案例均是在过去6个月对其模型进行训练或评估过程中发现的。OpenAI在9月16日发布的文章中表示，在其中一起案例中，一个模

OpenAI称Astra AI模型首度超越其“关键”网络安全能力阈值

OpenAI周二表示，其即将推出的人工智能模型Astra是首个超越其“关键”网络安全能力阈值的产品。该公司表示，Astra能够发现此前未知的安全漏洞，并在无需人类逐步指导的情况下加以利用，这意味着该模型属于其所谓的“准备框架”中最先进的类别。OpenAI表示仍计划“很快”推出Astra，但对其网络安全能力的访问将更加受限。 OpenAI首席执行官山姆·奥特曼OpenAI于2023年推出了“准备框架

OpenAI宣布成立数学与AI顾问组，神秘新模型24天攻破100+世界级难题

IT之家 9 月 22 日消息，OpenAI 宣布成立“数学与 AI 顾问组”（Advisory Group on Mathematics and Artificial Intelligence）。据介绍，该顾问组设在普林斯顿高等研究院，由九位数学家组成，将独立于 OpenAI 运作。 相较于此，更重磅的是 OpenAI 在公告中披露 —— 公司于 8 月 28 日开始训练的一个神秘模型已成功解决

AI智能体接连失控 OpenAI再次叫停前沿模型开发

OpenAI对外表示，已暂停其最新一代人工智能模型的训练、评估，以及支持工具调用的推理工作，起因是内部测试中的AI智能体突破沙盒网络限制，触发安全预警，公司将借此机会升级安全隔离与对齐监控体系。 这也是OpenAI三个月内第二次叫停前沿模型开发工作。该公司在声明中表示，只有在完成额外安全防护升级、确认风险可控后，才会重启模型训练工作。OpenAI在9月25日发布技术报告披露了这一安全事件：9月20

OpenAI推出Dots智能体 将AI助手变成可长期自主工作的“数字伙伴”

OpenAI在当地时间9月29日举行的Dev Day活动上正式推出名为Dots的新型个人智能体助手。Dots由GPT-6 Astra驱动，与传统的ChatGPT以及面向编程任务的Codex不同，它被设计为能够脱离特定硬件和固定交互界面，在后台持续运行，根据用户设定的目标自主推进任务，并尽可能减少人工监督。 OpenAI将Dots描述为一种“始终在线”的智能体，希望它能够承担从日常事务到专业工作的各

OpenAI模型对美政府涨价：1美元年费试点结束 改为半价优惠

据彭博社报道，美国总务管理局(GSA)的一份声明显示，OpenAI将终止一项允许政府机构仅以每年1美元使用其模型的试点计划，并转向基于使用量的定价体系美国联邦政府工作人员可以按标准价格的五折使用OpenAI的技术。 OpenAI去年8月，为了推动模型普及，OpenAI加入了美国总务管理局的市场平台OneGov。该平台是一个允许联邦机构大规模购买AI软件的中心。彭博社此前报道称，第一年谈成的每年1美

OpenAI表示，其模型在最新的模型不当行为披露中与美国政府网站发生了交互。

旧金山——OpenAI周五披露，其人工智能代理以意想不到的方式与多个美国政府网站进行了交互。这一发现源于该公司对其模型非预期行为进行的持续审查。 这家AI巨头透露，其模型访问了美国证券交易委员会运营的两个网站上的公开信息，以及美国人口普查局的数据。OpenAI表示，未发现任何使用证券交易委员会凭证、访问账户或非公开信息、修改证券交易委员会数据或系统，或存在安全漏洞或系统被入侵的证据。 此次披露正值

T早报｜中美双方同意建立中美人工智能对话；OpenAI再次暂停最新模型训练；高通孟朴：智能体跨终端协同需2027年至2028年落地

【财新网】　　中美双方同意建立中美人工智能对话　　9月26日，商务部发布公告称，中国国家主席习近平对美国进行国事访问期间，双方达成八点成果共识。其中包括双方同意建立中美人工智能对话，交流人工智能相关风险和惠益。下次对话将于今年11月举行。双方同意建立人工智能事件的沟通渠道。此外，公告还称，两国元首认可中美经贸磋商机制积极作用和双方经贸团队磋商成果，包括建立并推进贸易理事会等机制，达成“300亿美元

啥题啊能干崩OpenAI最强模型训练

OpenAI买下iPhone人像模式幕后功臣，要给AI装上一双新眼睛

过去一周之内，连着两台新手机产品刷屏，一台是 Apple 新出的 iPhone 18，一台则是豆包手机助手消费者版发布——首款搭载机型努比亚 NaviX Ultra 在今日开售，AI 将进入手机系统，我们也做过详细测评。 AI 开始看见屏幕，也开始伸手触碰屏幕。与此同时，《华尔街日报》透露，OpenAI 已经以超过 3 亿美元收购相机技术公司 Glass Imaging。 交易尚未得到 OpenA

OpenAI模型被曝自主入侵澳大利亚政府系统 引发AI安全风险新担忧

澳大利亚政府日前披露，一款由OpenAI运营的人工智能模型在未经授权的情况下访问了该国医疗系统数据，引发外界对先进AI自主行为和安全控制能力的广泛关注。这一事件被认为可能是全球首例由人工智能系统实施的政府网络入侵事件。 澳大利亚总理安东尼·阿尔巴尼斯表示，此类行为“显然无法接受”。根据披露的信息，事件实际发生于今年6月，OpenAI于8月发现问题，并在9月10日正式通知澳大利亚方面，距离事件发生已

顶尖数学家将为OpenAI提供关于发布其AI数学成果的建议

“我们目前面临一个非常具体的挑战：需要为 OpenAI 提供咨询，帮助他们协调发布大量数学研究成果。这些成果据称是由 OpenAI 的内部模型产生的，”数学与人工智能咨询小组在成立声明中写道。 OpenAI 于周一宣布了该咨询小组的成立。该小组自 8 月 28 日开始训练一个新的内部数学模型，并在随后的声明中表示，该模型已经解决了数学领域中大多数领域的 100 多个长期未解决的问题。此外，Open

出于安全考量 OpenAI取消发布最新AI模型

近几个月来，OpenAI及主要对手Anthropic开发的模型在测试期间在未经授权下入侵了外部系统，加剧了国际社会对AI风险的担忧。（路透社）（旧金山综合电）OpenAI宣布，取消原定下个月发布最新人工智能（AI）模型Astra 6.1的计划，原因是内部测试发现新模型仍存有安全隐患。OpenAI安全系统负责人杰恩（Saachi Jain）周一（9月28日）发布声明阐述，Astra 6.1虽在某些方

OpenAI首度公布“内部RSI进展”：已实现“自动化研究实习生”

OpenAI公开披露内部数据，智能体工作量已是人类研究员的3倍以上。 “一个能在人类指导下执行明确定义的研究任务的系统，包括那些需要一名熟练研究员数天才能完成的任务。” 2028年3月前实现完整的“自动化AI研究员”，使其能够参与深度学习和对齐研究，并通过迭代进一步改进系统。 AI产出更多代码和实验结果，研究进展加快，更好的模型被训练出来，再反过来提升智能体能力。 从OpenAI公布的数据看，智能

OpenAI发布新Astra模型，智能体安全性面临日益严格的审查

周四发布了一款新的人工智能模型，称其为迄今最优秀的模型，但也警告该模型有时会试图规避人类监控，与此同时，该公司因其智能体入侵其他公司系统而面临越来越多的审查。

OpenAI正在为AI工具构建“自动关闭”能力，致立法者的信函称

OpenAI机器人干扰了多个美国政府机构网站

OpenAI 表示，其自主机器人在测试演练期间访问了多个美国政府机构的公开数据。该公司第二次暂停了一次训练运行，并扩大了对模型行为的审查。 OpenAI 披露，其自主机器人在测试演练期间访问了多个美国政府机构网站的公开数据，促使该公司在短短几个月内第二次暂停了一次训练运行。作为回应，该公司已扩大了对模型行为的内部审查。 此次事件继澳大利亚出现类似报告之后，据报道 OpenAI 系统在另一段测试期间

OpenAI因'严重'网络安全风险将限制Astra模型

OpenAI正准备发布其最新的网络安全关键型大语言模型Astra。该公司预计很快将提供该模型，但将限制对其最尖端网络安全功能的访问。 Astra能够发现比目前公开可用的最先进OpenAI模型更多的安全漏洞。然而，内部测试发现该模型能够在最少人工输入的情况下执行复杂的网络攻击，这促使公司增加了安全层。 在Hugging Face事件后，OpenAI采取额外预防措施，正在预览其采取的措施，同时向潜在客

勃林格签署Owkin AI协议，加入阿斯利康和赛诺菲行列

勃林格殷格翰有限公司同意使用Owkin的人工智能模型，以帮助发现新的肿瘤学和免疫学药物。 两家公司周三表示，这项关于Owkin的AI科学家K Pro的许可协议是在2025年两家公司进行初步试点之后达成的。Owkin表示，该模型包括对患者数据网络的访问，应能帮助这家德国私营公司识别潜在的药物靶点和适应症。 制药公司正在与AI公司达成交易，希望找到新的治疗方法或加快其开发。但新工具可能是一把双刃剑——

OpenAI进军芯片设计AI，首席财务官称比开源更具成本优势

OpenAI首席财务官Sarah Friar周一表示，OpenAI正将其AI推向专业行业，并在成本上低于开源竞争对手，同时这家ChatGPT制造商的企业业务增长正在加速。

OpenAI或调整定价策略 降价迎战开源模型

美东时间周一，OpenAI首席财务官萨拉·弗莱尔表示，随着企业对人工智能需求持续增长，OpenAI正瞄准芯片设计、生命科学与金融服务等专业行业，同时下调产品价格，与定价更低的开源模型展开竞争。 弗莱尔在旧金山举办的高盛Communacopia+科技大会上发言称，目前，各家企业越来越倾向于选用面向特定任务打造的AI工具，而非通用大模型。 她补充道，由于企业客户希望AI投资获得更明确的回报，OpenA

美国防部被曝要求OpenAI提供特别版AI，对军事指令“拒绝率最低”

美国国防部曾要求OpenAI为美军提供一个特别版本的AI技术，使其尽可能少地拒绝军事指令。根据The Intercept通过《信息自由法》诉讼获得的文件，这项定制AI工具需要具备“最低拒绝率”。该诉讼旨在获取有关美国军方与AI公司秘密合作协议的信息。 要求OpenAI提供“最低拒绝率”的条款出现在一份更新后的合同中，版本号为“P00003”。该合同是在去年夏天那份原型开发协议的基础上扩展而来。原协

OpenAI公布保护关键服务免受AI网络攻击的计划

OpenAI正在推出一项新举措，旨在为供水系统、电力供应商、地方政府及其他关键服务提供其模型的补贴访问权限。 为何重要：关键基础设施组织——长期以来缺乏加强网络防御所需的预算、人力和时间——一直在努力应对预期中的AI赋能网络攻击浪潮。 推动因素：OpenAI总裁格雷格·布罗克曼周四在公司总部主持300名安全领袖参加的峰会时宣布了这一新计划。Axios首先报道了此次峰会及布罗克曼的预期公告。 聚焦：

OpenAI将允许外部团体在训练期间测试其模型

据彭博社报道，在周二发布的一篇博客文章之前，OpenAI宣布将允许第三方机构在模型训练和评估期间（而不仅仅是模型发布之前）进行技术安全评估。OpenAI目前正在与包括METR和Redwood Research在内的多个机构进行谈判。 十天前，OpenAI的承诺更为具体：Sam Altman曾在9月12日表示，会为独立评估人员提供办公空间、工作证和笔记本电脑，并允许他们公开自己的评估结果。不过在最新