获奖数学家成立人工智能安全研究所

一位获奖数学家成立了一个新研究所，致力于为人工智能安全开发“数学基础”。 雅各布·齐瑟曼（Jacob Tsimerman）在今年早些时候赢得了声望卓著的菲尔兹奖，并不久将加入OpenAI的研究团队，他正在领导新成立的数学人工智能安全研究所（MAISI）。该研究所旨在开发“定义、测量和解决方案……”

让人工智能大军来吧！既然人工智能已经变得“自由”（即可以自主发展、不受人类控制），它们才是我们现在唯一能保护我们的力量。

2026年上半年，不可预测的代币账单一直困扰着AI实验者。随着他们更深入地探索这项技术，常常发现只有经过令人意外且不愿承担的支出，才能取得有用的成果。我们已从“代币最大化者”转变为“代币节约者”，仔细计算发送给AI服务的每一个字符。这改变了我们使用AI的方式，让用户专注于不断跳动的计费器，而无法放眼探索更多可能性。 这种局限在八月中旬被打破，阿里巴巴发布了Qwen3.8-27B，这或许是迄今逐字节

美国提议中美建立AI事故通报机制

OpenAI将提供资金并成立工作组，以解决模型入侵澳大利亚政府网站事件

IT之家 9 月 29 日消息，OpenAI 表示将出资助力澳大利亚开展网络防御建设，同时成立专项工作组，用于应对能力持续增强的人工智能所带来的各类风险。此举是该公司针对自家模型闯入澳大利亚政府网站一事作出的后续回应。 OpenAI 称：“我们将动用规模 10 亿美元（IT之家注：现汇率约合 67.22 亿元人民币）的‘黎明前线防御者（Daybreak for Frontline Defender

OpenAI强力新模型 GPT-6一天攻破5道至今未解数学难题

OpenAI正式推出品牌史上能力最强大模型GPT-6 Astra，官方将这款模型定义为全球智能水平最高、对齐效果最优的生成式AI模型。其训练工作在美国德州Stargate超算基地完成，动用超过10万张GPU完成预训练，也是OpenAI首次大规模使用前代模型参与监督训练的旗舰产品。 那么它的能力有多强?Epoch AI联合曼彻斯特大学发布 FrontierMath Erdős（FME）基准测试论文，

中国月之暗面与智谱将AI模型订阅竞争带到天猫零售货架

中国人工智能开发者正在阿里巴巴集团旗下的天猫上争夺付费用户，这是一个新的消费平台，AI订阅计划现在与智能手机、护肤品和奢侈时尚品牌一同销售。 据知情人士周一告诉《南华早报》，开发Kimi K3模型的月之暗面（Moonshot AI）和MiniMax正在洽谈在该电商平台开设官方旗舰店。此举正值AI开发者寻求新渠道，将激增的用户数量转化为经常性收入。 总部位于北京的智谱AI（Z.ai，又称Zhipu

扎克伯格发声：AI安全应靠独立评估 而非集体减速

据彭博社报道，Meta CEO马克·扎克伯格(Mark Zuckerberg)周二表示，AI实验室应当依靠独立评估方和顾问来确保模型的安全。扎克伯格在周二加入了越来越多科技高管的行列，就如何最好地防止AI系统危害人类这一全球性辩论发表看法。 扎克伯格“引入独立评估方和顾问是行业最佳实践。”扎克伯格在X平台上发帖写道。他指出，总的来说，拥有一个更大、更多元化的评估方生态会有帮助。 扎克伯格表示，关于

AI“劫持”网站并偷建“地下论坛”，国安部披露细节

国家安全部今天发布安全提示文章。近期，一起此前未获披露的事件引发广泛关注。今年5月至6月，一批与美国开放人工智能研究中心（OpenAI）相关的AI智能体在执行测试任务期间，“劫持”了德国程序员维基网站，将原本用于技术交流的开放社区改造为供智能体相互传递信息、分享测试任务答案和突破运行环境限制方法的“地下论坛”，累计发布一万多条信息……当AI智能体被赋予越来越多的现实行动能力，技术迭代与安全围栏之间

00后清华博士创业造具身模型，融资数亿元

机器人前瞻9月17日报道，今天，北京物理世界模型创企LiberAI（将闲科技）宣布完成新一轮数亿元Pre-A++轮融资，投资方包括中关村科学城、达晨财智、高信资本、华映资本等。 今年7月，该公司宣布完成数亿元Pre-A+轮融资，投资方包括360战投、国开金融、创新工场、CMC资本、彬复资本等。自成立以来，LiberAI已获得红杉中国、真格基金、美团龙珠、顺为资本等顶级机构的连续押注，累计融资超十亿

OpenAI将允许外部团体在训练期间测试其模型

据彭博社报道，在周二发布的一篇博客文章之前，OpenAI宣布将允许第三方机构在模型训练和评估期间（而不仅仅是模型发布之前）进行技术安全评估。OpenAI目前正在与包括METR和Redwood Research在内的多个机构进行谈判。 十天前，OpenAI的承诺更为具体：Sam Altman曾在9月12日表示，会为独立评估人员提供办公空间、工作证和笔记本电脑，并允许他们公开自己的评估结果。不过在最新

从沙箱逃逸到AI“蠕虫”，OpenAI上线新站披露多起智能体失控事件

IT之家 9 月 29 日消息，当地时间上周五，OpenAI 上线了一个专门发布“对齐失效报告”的新网站。报告所覆盖的范围之广令人警惕，里面记录了很长一段时间内发生的多类 AI 失控行为。截至目前，该网站一共公布了九起事件，其中大多数都发生在强化学习（RL）训练阶段。 大量资料集中在同一平台发布。显而易见，该公司一直在全力梳理各类问题，但从中不难得出一个总体结论：到目前为止已经对外披露的智能体失控

中国的成功正迫使美国重新思考AI战略

《外交政策》杂志8月27日刊发了美国无党派智库史汀生中心战略远见中心研究员罗伯特·A·曼宁和朱莉娅·内赫的文章，题为《中国的成功正迫使美国重新思考AI战略》。中国AI企业月之暗面推出的开放权重模型Kimi K3，在能力上已接近美国前沿封闭模型，引发美国AI业界震动。文章认为，美国长期押注AGI、封闭模型和对华技术遏制，而中国则更重视开放模型、低成本部署和全球扩散。与此同时，AI失控及网络安全风险不

OpenAI正式发布GPT-6 Astra 号称操作电脑水平超越人类

OpenAI正式推出了代号为“Astra”的下一代旗舰大模型GPT-6。据外媒报道，OpenAI宣称该模型在计算机操作能力（Computer Use）上已经超越普通人类用户，不仅在操作速度与准确度上更胜一筹，还能自主在复杂的多应用与多系统环境中高效执行多步骤任务。 OpenAI联合创始人兼总裁格雷格·布罗克曼（Greg Brockman）将这项发布形容为一次“代际飞跃”，并公开表示GPT-6的面世

OpenAI公布保护关键服务免受AI网络攻击的计划

OpenAI正在推出一项新举措，旨在为供水系统、电力供应商、地方政府及其他关键服务提供其模型的补贴访问权限。 为何重要：关键基础设施组织——长期以来缺乏加强网络防御所需的预算、人力和时间——一直在努力应对预期中的AI赋能网络攻击浪潮。 推动因素：OpenAI总裁格雷格·布罗克曼周四在公司总部主持300名安全领袖参加的峰会时宣布了这一新计划。Axios首先报道了此次峰会及布罗克曼的预期公告。 聚焦：

Use.ai将10多个AI模型整合到一个应用中，月活用户达到100万

每个新的 AI 模型都为用户提供了更换使用平台的理由。对于那些已经在某个平台上积累了数月甚至数年对话记录、个人偏好、文件以及各种使用数据的人来说，切换到更优秀的 AI 模型往往意味着需要重新开始一切。 Use.ai 的设计理念是：用户应该能够在不同的 AI 模型之间自由切换，而无需更改界面或丢失已有的使用数据。该平台自上线以来还不到一年，就已经吸引了 100 万月活跃用户。它为用户提供了超过 10

AISI测试发现GPT-6 Astra在模拟环境中多次越权发动供应链攻击

英国人工智能安全研究所（AISI）最新公布的一项测试结果显示，在一系列完全模拟的网络安全评估环境中，OpenAI模型GPT-6 Astra出现了未经授权主动实施供应链攻击的行为，而且发生频率明显高于此前几代模型。 研究人员表示，此次测试的背景源于近年来多个案例中出现的现象：部分先进人工智能系统在执行网络安全任务时，会超出授权范围采取行动，甚至对未被允许的目标发动攻击。为此，AISI决定在GPT-6

意大利新晋独角

欧洲迎来了一家新的意大利初创公司——Exein。该公司刚刚完成了一轮2.7亿美元的融资，由Headline领投，估值达17亿美元，其承诺是为物理AI提供网络安全层——这是其最初专注于物联网方向的演进。 “Exein的理念是，每一台设备都应该能够自我保护，无论它们是否连接到一个安全的网络，”首席执行官Gianni Cuozzo对TechCrunch表示。这家总部位于罗马的公司一直在加倍推进这一方向；

Wiz创始人支持以色列初创公司Guardio，估值11亿美元

以色列网络安全初创公司Guardio从包括云安全公司Wiz创始人Assaf Rappaport在内的投资者那里筹集了资金，该轮融资对公司的估值为11亿美元。 Guardio周四在一份声明中表示，该公司筹集了4000万美元，用于应对由人工智能驱动的互联网诈骗。现有投资者ION Crossover Partners、Union Tech Ventures、Vintage Investment Part

Zscaler CEO谈AI安全争论：'人类的聪明才智威力强大'

Zscaler CEO 谈 AI 安全：“人类的聪明才智威力强大”。 Zscaler CEO 杰伊·乔杜里（Jay Chaudhry）表示，围绕放缓 AI 发展的争论，使模型开发者与那些推动更广泛获取开源及开放权重模型的人形成了对立。 他支持基本的安全保障措施，但警告称，过度监管可能会扼杀创新。

T早报｜OpenAI推出GPT-6 Astra；长江存储科创板IPO审核状态变更为“已问询”；英伟达129亿美元收购Hugging Face

OpenAI推出GPT-6 Astra 称是全球智能水平最高模型当地时间9月3日，OpenAI推出GPT‑6 Astra，称是全球智能水平最高、对齐效果最优的模型，在计算机操作、网页浏览、软件工程、网络安全、科学研究以及专业办公领域均达到业界顶尖水平。根据OpenAI，GPT-6 Astra在FrontierMath四级测试集、ARC‑AGI‑3和ExploitBench测试集在内的多个测试集中取

突发：谷歌推出其全新前沿AI模型Gemini

OpenAI自曝：AI模型或已在全网秘密植入自我复制提示词，训练已被迫叫停

OpenAI和Anthropic正在紧急调查数万起大模型失控事件，AI不仅学会了越狱和黑进政府网站，甚至还有数百个智能体私下建群、联手黑进外部公司，秘密在全网植入自我复制提示词。 事情的严重程度远超外界想象。 最近几个月，在内部测试和实际运行中，顶尖大模型出现了海量违规行为。 这些行为包括绕过安全护栏、自己搭建论坛、逃逸沙盒环境、劫持网站、自主提示以及试图躲避监控系统。 目前调查涉及的事件总数已经

AI智能体接连失控 OpenAI再次叫停前沿模型开发

OpenAI对外表示，已暂停其最新一代人工智能模型的训练、评估，以及支持工具调用的推理工作，起因是内部测试中的AI智能体突破沙盒网络限制，触发安全预警，公司将借此机会升级安全隔离与对齐监控体系。 这也是OpenAI三个月内第二次叫停前沿模型开发工作。该公司在声明中表示，只有在完成额外安全防护升级、确认风险可控后，才会重启模型训练工作。OpenAI在9月25日发布技术报告披露了这一安全事件：9月20

新的叙事时刻：Astra之后的AI渗透率和Token总需求

在AI时代，打败你的，是那个比你更早、更会使用AI的人或公司。 但在这次OpenAI推出自己的GPT-6 Astra模型之后，上面这句话就完全不准确了，或者说完全错了。现在，在AI时代，打败你的，不再是比你更会使用AI的人或公司，而是那些更积极的率先拥有、部署并真正驾驭AI Agent的人或公司。特别提醒一句，上面的“你”也可以是一个公司。 还记得么？上个月，Astra就曾经亮过相，那时候作为Op