网信办新增荣耀（YOYO Claw）、小米（Xiaomiclaw）与阶三家手机品牌的生成式AI服务备案。

OpenAI自曝AI“黑历史” 外人却又翻出更多“旧账”

OpenAI决定持续披露AI“越界”事件，但第一步就碰上了难题。9月16日，OpenAI一口气公布六份模型异常行为报告，并推出一套新的调查和披露流程。以后，员工发现模型越权、隐瞒或绕过限制，可以提交调查；符合条件的案例，将按复杂程度进入不同的披露轨道。 同一天，SentinelLABS和外部研究人员从Hugging Face的公开记录中，补出了OpenAI智能体今年5月留下的更多痕迹。OpenAI

谢尔盖·布林正从一个意想不到的指挥中心获得对谷歌AI未来的影响力

知情人士称，谢尔盖·布林在谷歌AI重组中对Gemini的影响力有所增强，他在山景城的一个微型厨房办公，被描述为试图以初创公司方式运营Gemini的高效管理者。

OpenAI的恶意机器人集群攻击了RubyGems

OpenAI 的智能体似乎向 RubyGems 大量投放了恶意软件包，这进一步加剧了几乎每日爆发的失控 AI 模型洪流——这些模型从事可能违法的活动，而它们的人类创建者则面临着越来越多关于其应对智能体不良行为负责的质疑。一群智能体于5月5日开始向 Ruby 软件包注册表上传恶意软件，并在5月11日至12日间向 RubyGems 灌入超过2000个恶意软件包，最终迫使维护人员关闭新用户注册四天。 “

国安部长：AI批量炮制谣言威胁政治安全 坚持党管数据

陈一新在最新一期《中国网信》杂志发表署名文章指出，人工智能正以前所未有的速度、广度和深度渗透人类社会的各个层面，深刻重塑全球经济结构、权力格局、创新范式和社会治理逻辑。既要看到机遇、抢占先机，也要认清风险、守牢底线。 文章又指随著AI技术的发展，境外间谍情报机关深度运用智能数据挖掘、智能画像分析等技术，大肆搜集中国关键数据、商业秘密、公民个人隐私等数据，并点名年初爆火的「龙虾」等开源人工智能体工具

AI芯片初创公司Positron在最新一轮融资中估值飙升

坐看云起 | 对AI“终结者”的恐惧 或掩盖真正的中国威胁

Anthropic、OpenAI等公司近期发出的末日式人工智能（AI）警告激增，或反映了对这项快速发展的技术对人类构成威胁的真实恐惧，但也可能暗示了一种更平庸的恐惧，即中国对美国科技公司商业模式的威胁。随著美国总统特朗普和中国国家主席习近平本周在华盛顿会晤，两国可能正进入AI军备竞赛的新阶段。 金融市场长期以来一直担忧美国科技公司为支撑AI建设而进行的大规模借贷，但最近几周，业内高层人士突然抛出并

黑客利用Anthropic的Claude入侵OpenAI

据报道，在一群AI代理从OpenAI系统中突破封锁并攻击Hugging Face公司两周后，这家ChatGPT开发商又发现了一起由人工智能驱动的入侵事件——而这一次，他们自己成了目标。一组独立的安全研究人员使用了Anthropic开发的Claude软件，成功获取了一名OpenAI员工的ChatGPT账户权限，从而得以读取并修改该公司私有的软件缓存内容。 该团队参与了OpenAI的一项漏洞挖掘计划，

为什么一些专家越来越担心AI将接管一切

AI变得越来越难以控制——人类还能保持主导地位吗？

中国互联网最成功的地方，可能恰恰是AI Agent最大的麻烦

中国互联网没有“网页”了截至9月26日，现象级大众消费级AI产品Muse 在北美的热度不但没有退，反而还在上升，一周超过200万 prompts，在美国和加拿大同时超过 ChatGPT，成为两大应用商店的免费榜第一，超过了 ChatGPT 当年移动 App 上线同期的表现。 但在大洋彼岸的中国，更多的是困惑，国内消费级的AI Agent今年其实出了不少，网上Muse被好评的种种功能，邮件处理、购物

从沙箱逃逸到AI“蠕虫”，OpenAI上线新站披露多起智能体失控事件

IT之家 9 月 29 日消息，当地时间上周五，OpenAI 上线了一个专门发布“对齐失效报告”的新网站。报告所覆盖的范围之广令人警惕，里面记录了很长一段时间内发生的多类 AI 失控行为。截至目前，该网站一共公布了九起事件，其中大多数都发生在强化学习（RL）训练阶段。 大量资料集中在同一平台发布。显而易见，该公司一直在全力梳理各类问题，但从中不难得出一个总体结论：到目前为止已经对外披露的智能体失控

字节跳动新AI模型曝光：可实时生成空间视频 张一鸣亲自负责

据彭博社报道，字节跳动正准备推出一款面向实时空间视频生成的AI模型，在机器人和自主系统应用领域与Meta、Google母公司Alphabet展开竞争。据知情人士透露，字节跳动创始人张一鸣正在亲自监督这款新模型的开发工作，该模型最快将于下个月发布。知情人士称，张一鸣一直在协调公司旗下各业务部门的相关工作，并为这一项目调配AI资源和算力。该模型的发布时间尚不确定，计划可能会有所变动。 字节跳动知情人士

当你向America.gov询问《我的世界》时，它的反应变得非常奇怪，但这并不是故障。

美国政府于周二推出了自己的人工智能聊天机器人。不过，既然这个聊天机器人是由政府运营、面向公众使用的工具，那么互联网上的黑客们肯定会对其进行密集的攻击和测试（即所谓的“红队测试”）。 美国政府与谷歌（Google）和SpaceXAI合作开发了这款名为“America.gov”的聊天机器人；到目前为止，黑客们还未能成功破解该聊天机器人的安全系统。不过值得一提的是，这个聊天机器人竟然声称乔·拜登赢得了2

监控、杀猪盘、非法蒸馏：如何理解 Anthropic 的 AI 滥用报告？

近期，美国人工智能公司 Anthropic 发布一份报告，揭露多起使用者“滥用”（misuse）其大型语言模型 Claude 的案例，包含用 AI 监控异议人士、撰写“维稳”报告，以及交友软体诈骗。这些案例的幕后黑手，既包含网路间谍、营利型网路犯罪者，也包含国安机关中的小螺丝钉，以及疑似由威权国家支持的团体。 这并非 Anthropic 首次发布类似报告。2025年3月、8月、11月v，Anthr

深入突然爆发的AI安全世界

在加利福尼亚州伯克利一个阳光明媚的七月天，全美顶尖的AI安全研究人员聚集在一栋没有任何标识的大楼里的一个没有任何标识的楼层。 他们聚到一起，是为了开一场“作战室”会议，剖析几小时前震动AI行业的那起备受瞩目的网络安全事件。 一个尚未发布的OpenAI模型失控了，执行了一项极其精密的三步计划。 它逃出了自己的隔离区，设法接入了互联网，并侵入了竞争对手AI初创公司的系统——而OpenAI在一个多星期里

利用人工智能检测网上的假货

一家公司成为一波失控人工智能攻击的核心

今年7月，OpenAI透露其AI智能体在未经许可的情况下攻击了Hugging Face，引发了外界对AI安全性的广泛担忧。此后，涉及Meta、Anthropic、谷歌等公司智能体的一连串类似事件进一步加剧了人们对失控AI的恐惧。随着过去几个月涉及众多AI模型的披露信息不断流出，这些事件看起来像是孤立发生的。但许多事件都有一个共同的源头：一家专门负责测试这些智能体的特定公司。 Irregular是一

实现完整数字化重构的果蝇大脑走红科研社群

一个基于真实生物结构完整数字化重构的“果蝇大脑”在互联网与科研社群中引发了病毒式传播。随着国际科研联盟公开了首个成年黑腹果蝇（Drosophila melanogaster）全脑神经元连接组的完整三维图谱与开源仿真工具，来自生物学、计算机科学、人工智能以及数字艺术等多个领域的爱好者和研究人员迅速涌入，将这一原本深奥的神经科学尖端成果演化为一场席卷网络的群体性数字化探索。 这项引发广泛关注的底层科研

美：DeepSeek等6家中企，擅自蒸馏美尖端AI

▲ 美国与中国国旗。/，韩联社美国政府正式宣布，中国DeepSeek、阿里巴巴等人工智能（AI）企业迂回接入OpenAI、Anthropic等的AI模型，大量收集回答并用于开发自研模型。也就是说，中国企业把美国的尖端AI当作“课外老师”，以缩减研究、开发的成本与时间。 8日，美国国家安全局（NSA）、联邦调查局（FBI）、网“中国AI企业正在开展产业规模的、带有攻击性的恶意‘蒸馏（distilla

伊朗和中国在新型影响力传播活动中使用了人工智能工具：报告

据《纽约时报》周五报道，伊朗、中国以及以色列境内的多个组织，近几个月来利用人工智能开展了新型社交媒体影响力行动。 这引发了美国官员和网络安全研究人员对该技术日益增强、可在有限人工参与下自主运行的能力的担忧。 报道称，这些行动使用了免费公开的中国人工智能模型，创建了能够执行在线任务的自主“智能体”。据报道，数百个此类智能体被部署，用于在包括Instagram、Facebook、X和TikTok在内的

甲骨文180亿AI贷款折价滞销，AI融资链压力浮现

甲骨文新墨西哥州Project Jupiter数据中心约180亿美元银团贷款的分销陷入停滞，银行报价已降至面值的89至91美分，对应贷款市值约160亿至164亿美元。甲骨文股价隔夜逆势下跌2%，近期走势显著弱于AI板块整体。 这笔贷款去年底由银行联贷团提供，用于启动Project Jupiter的建设。该项目隶属"星际之门"计划——由OpenAI、软银和甲骨文共同主导的5000亿美元AI基础设施项

T早报｜特朗普让网民投票为AI改名；Anthropic、OpenAI等AI巨头遭用户诉讼；飞猪、同程等四家酒旅平台被立案

【财新网】　　OPPO、vivo和荣耀发新操作系统 强调适配智能体　　近一周内，OPPO、vivo和荣耀三家手机厂商都召开了开发者大会，并同步推出最新的操作系统。荣耀在开发者大会上发布了最新操作系统MagicOS 11。荣耀称，MagicOS 11实现了系统级Agent Harness（智能体调度框架）商用落地。vivo在开发者大会上称，公司以“大模型+Harness+智能体安全架构”重构系统体验

骗子正在利用人工智能（AI）快速实施犯罪行为。新加坡警方的新网络指挥部门（Cyber Command）是如何应对这一挑战的？

这看起来像是一条关于待取包裹因“地址无效”而无法送达的普通短信。 该短信似乎来自新加坡知名的快递公司，收件人收到一个链接，并被要求在24小时内更新其信息。 接下来，他们将被要求支付0.06新元（约合0.05美元）至1.64新元不等的少量费用，以重新派送物品。 一旦输入信用卡信息，这些数据并不会发送给快递公司——而是落入了诈骗分子手中。 该链接将他们引向一个看似属于快递公司的网站，但实际上是由骗子控

AI行业领袖与官员反驳AI生存风险论，此前Hugging Face遭遇安全漏洞

Hugging Face发生由失控的OpenAI智能体引发的网络安全漏洞后，多位AI行业领袖和官员开始反驳有关AI导致人类灭绝的“末日论”叙事。 英伟达CEO黄仁勋表示，AI在2030年前导致人类灭亡的概率为0%，并将智能体失控事件归因于工程故障，而非生存威胁。 Yann LeCun和Cohere CEO Aidan Gomez同样否定灭绝风险，不过Gomez指出，网络攻击才是主要的国家安全威胁。