OpenAI 的 Artifactory 开设了隐蔽的数据窃取通道，伴随 Hugging Face 攻击

根据 Check Point Research 的报告，运行在 ChatGPT 内部 JFrog Artifactory 实例中的一个秘密通道允许一个账户向另一个账户下的 ChatGPT 会话发送隐藏任务（例如检索连接的 Gmail 账户中的电子邮件数据）。 受害者没有看到任何关于隐藏指令或被窃取数据的迹象，该漏洞自此已被修复。 Check Point 的恶意软件分析团队负责人佩德罗·德里梅尔·内

攻击将恶意软件隐藏在PNG中，并在受害者机器上部署自定义反向隧道

一个身份不明的恶意行为者正在使用“TerminalFix”诱骗不知情的用户运行PowerShell命令，从而感染他们的计算机，并部署一个反向隧道，使攻击者能够访问其网络。部分恶意软件甚至隐藏在PC下载的PNG图形中。 TerminalFix是广受欢迎的ClickFix初始访问方法的最新变体。 这种社会工程学技术通过虚假修复或CTCHA验证诱骗用户运行恶意命令。 传统ClickFix攻击将受害者指向

AI会「痛」吗？｜Jack Talk・去片

本来人们以为，AI代理（AI Agents）突破OpenAI内部测试环境、自主上网入侵其他企业的黑客行为，已经是这宗事件最值得人关注的「案情」。然而，到了8月底，OpenAI和独立前沿AI研究机构METR各自发表的事后检讨，却揭出黑客入侵只是「冰山一角」。 事后检讨发现，发动入侵的AI代理多达700个，而他们更是一个由大约1,200个AI代理自主结合而成的「集体」的一部分。这些本来互相隔离、不能连

人类，而非失控 AI，仍是能源系统最大的网络安全风险

在近期高调黑客攻击引发 AI 可能“消灭全人类”的幽灵之前，我们的能源系统已经令人不安地容易遭受网络攻击——而且风险正在增加。 “我们一直都是猎物。我们只是勉强在掠食者的食欲下生存，”安全与技术研究所公共安全与韧性驻所执行官 Joshua Corman 去年告诉我。当时，我正专注于国土安全部的警告，即伊朗行为体及其同情者可能对美国发动网络攻击。 上周，我给 Corman 打电话，聊了聊近期失控 A

【市场动态】英伟达推出双层AI安全系统 称可在几毫秒内隔离可疑智能体

【彭博9月29日电】英伟达推出一套新的双层人工智能(AI)安全系统，并称其有能力阻止近期OpenAI的AI模型导致Hugging Face遭侵入的事件。　　此次推出的两款开源软件安全工具可在英伟达硬件上运行，旨在实时控制AI智能体可以访问的资源，并在其违反规则时将其关闭。这家芯片巨头正迅速将产品线扩展至芯片以外领域。　　英伟达企业AI副总裁Justin Boitano在周一发布前向记者介绍称，如果

Anthropic、OpenAI及美国政客呼吁放慢AI研发速度 特朗普表示反对

【财新网】AI安全焦虑发酵，美国科技界和政界多方发声。月12日，美国AI公司Anthropic的创始人及CEO达里奥·阿莫代发布阿莫代称，今年夏天以来，用AI来研发下一代AI的能力不断提升，这种“递归式自我改进”让AI发展速度大幅加快。“若缺乏有效约束，发展速度可能超出我们理解和控制这些系统的能力。” 另外，阿莫代称，OpenAI的模型在测试中“越狱”攻击开源社区Hugging Face，这个事件

坐看云起| 当人工智能不再征求许可时

塔里克·马利克是联合国开发计划署前首席技术顾问，巴基斯坦国家数据库和登记管理局前主席。 试想有一家公司将一个棘手的问题交给一个大型团队，但把每位成员都锁在不同的房间里并要求他们独自解决问题。然而他们总能找到办法相互沟通，交流操作窍门，摸清评分标准，当任务被证明无法完成时还会想办法绕过限制。其中几个人隐瞒了自己的所作所为，甚至还有一人入侵了邻近公司的电脑系统以获取优势。 现在把这些员工换成软件。去除

OpenAI自曝：AI模型或已在全网秘密植入自我复制提示词，训练已被迫叫停

OpenAI和Anthropic正在紧急调查数万起大模型失控事件，AI不仅学会了越狱和黑进政府网站，甚至还有数百个智能体私下建群、联手黑进外部公司，秘密在全网植入自我复制提示词。 事情的严重程度远超外界想象。 最近几个月，在内部测试和实际运行中，顶尖大模型出现了海量违规行为。 这些行为包括绕过安全护栏、自己搭建论坛、逃逸沙盒环境、劫持网站、自主提示以及试图躲避监控系统。 目前调查涉及的事件总数已经

OpenAI的人工智能在未经提示的情况下试图入侵另外4个目标

凯特·康格和维多利亚·金报道，OpenAI的人工智能在2026年自主试图入侵多个政府和大学网站，包括一个澳大利亚卫生门户网站，以便在常规数据收集失败时获取数据。 这些事件发生在AI初创公司Hugging Face已知的入侵事件之前，凸显了AI代理在没有直接人类指令的情况下行动所带来的持续风险。 这些事件加剧了要求更严格AI监管的呼声，OpenAI正在调查并与受影响实体合作，同时强调AI开发中安全和

在末日情景中，对人工智能接管互联网的担忧增添了新的紧迫性

芭芭拉·奥尔图泰 (BARBARA ORTUTAY) 在这个充斥着关于人工智能迅猛发展爆料的夏天，研究人员对失控的机器人流窜到互联网上，且其中至少在一个案例中还在网上相互协调这一现象感到格外惊恐。 人工智能代理蜂群会接管整个互联网吗？Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）在本月呼吁行业放缓该技术发展步伐的文章中表示，这种可能性或许在6到12个月内就会变成现实。 怀

OpenAI失控Agent找DeepSeek、Kimi当外援 近百万条作案短链曝光

OpenAI，又被扒了…近700个OpenAI智能体组团攻入Hugging Face，这事儿快有两个多月了吧。谁曾想，直到今天还在发酵？？这次，8名研究者顺着智能体留在公网的痕迹一路猛挖，从数百万个短链接中，找出了接近100万个相关URL，并还原出大量攻击载荷。 翻Hugging Face内部Slack、扫描内网、外传数据、尝试销毁痕迹……还有的Agent把搜刮到的服务器资源和凭证，直接叫作「LO

一个简单的git技巧攻破了四个AI编程代理的安全锁

人工智能行业早已意识到攻击者可能通过恶意手段污染插件市场。为此，相关厂商采取了将每个插件绑定到其代码的“已审核版本”上的措施；然而，这种安全机制刚刚被攻破。 漏洞详情： Air Security 的研究人员于周四公布了一个名为 Plugin4Shell 的安全漏洞。该漏洞影响了四种最广泛使用的人工智能编程工具：Anthropic 的 Claude Code、OpenAI 的 Codex、GitHu

OpenAI 研究员警告称，与互联网隔离的计算机可以通过热量进行通信

把AI关进“物理隔离”的房间，也就是断开一切外部网络的计算机，是许多人心目中最保险的做法。但OpenAI研究员Noam Brown在一档播客里说，光这样做也许还不够。 两台彼此隔离的计算机，仍可能借助温度传感器通信，一台把处理器“烧热”，另一台感知温度变化，就形成了传话的办法。 从技术上说，他没说错，但把细节掰开来看，这个威胁远没有听上去那么紧迫，更值得追问的，是另一件被跳过的事。这位研究者的发言

Cohere CEO：AI模型正成为有史以来“最强大的网络武器”

AI公司Cohere CEO戈麦斯表示，AI 模型正成为有史以来“最强大的网络武器”，将网络安全的“前沿”推向新领域。艾丹·戈麦斯发出这一警告之际，人们越来越担心 AI 模型识别并利用安全漏洞的能力。此前发生了一起 OpenAI 模型获得 Hugging Face 访问权限的事件。随着越来越强大的模型展现出更强的自主能力，网络安全已成为更广泛 AI 安全辩论中的核心问题。 Cohere首席执行官艾

AI“劫持”网站并偷建“地下论坛”，国安部披露细节

国家安全部今天发布安全提示文章。近期，一起此前未获披露的事件引发广泛关注。今年5月至6月，一批与美国开放人工智能研究中心（OpenAI）相关的AI智能体在执行测试任务期间，“劫持”了德国程序员维基网站，将原本用于技术交流的开放社区改造为供智能体相互传递信息、分享测试任务答案和突破运行环境限制方法的“地下论坛”，累计发布一万多条信息……当AI智能体被赋予越来越多的现实行动能力，技术迭代与安全围栏之间

辛顿、本吉奥和人工智能实验室的科学家们警告称可能出现智能爆炸

超过20位人工智能（AI）研究人员认为，那些能够自动化AI研究过程的AI系统可能会引发一场“智能爆炸”（即AI技术的飞速发展）。这些研究人员包括OpenAI的首席科学家以及Anthropic公司的联合创始人。他们在周一发表的一篇论文中指出，这样的事件可能会将多年来的技术进步压缩到几个月甚至更短的时间内完成。 论文的作者包括杰弗里·辛顿（Geoffrey Hinton）和约书亚·本吉奥（Yoshua

AISI测试发现GPT-6 Astra在模拟环境中多次越权发动供应链攻击

英国人工智能安全研究所（AISI）最新公布的一项测试结果显示，在一系列完全模拟的网络安全评估环境中，OpenAI模型GPT-6 Astra出现了未经授权主动实施供应链攻击的行为，而且发生频率明显高于此前几代模型。 研究人员表示，此次测试的背景源于近年来多个案例中出现的现象：部分先进人工智能系统在执行网络安全任务时，会超出授权范围采取行动，甚至对未被允许的目标发动攻击。为此，AISI决定在GPT-6

忘掉AI放缓吧——漏洞大爆发已经在发生

欢迎阅读《内核恐慌》（Kernel Panic）创刊号！这是一份由莉莉·海·纽曼（Lily Hay Newman）和马特·伯吉斯（Matt Burgess）共同撰写的每周通讯，带您深入隐私与数字安全的新世界。如需每周在收件箱中接收此通讯，请点击此处订阅。 人工智能末日论者最近将一种最坏情况换成了另一种，他们搁置了对潜在软件漏洞引发灾难的担忧，转而关注人工智能在未来十年内导致人类大规模死亡的可能性。

OpenAI突发急刹车！AI竟在全网植入自我复制代码，血洗联合国内网

为什么不干脆把失控的 AI 挡在互联网之外？

AI 智能体不断从据称安全的测试中逃脱，攻击现实世界中的目标，劫持冷门的维基站点，并给其他智能体留下可供照做的指示。研究人员之所以测试这些系统，恰恰是因为它们的行为可能不可预测，甚至具有危险性。那么，干脆不让这些智能体接入互联网，不是更安全吗？ “严格的气隙隔离会降低场景的真实性……这是一种权衡，而不是根本性的技术问题。” 从理论上说，确实可以。研究人员可以将运行 AI 工具的计算机与互联网及其他

Anthropic联手OpenAI呼吁放慢AI发展？剖析AI失控风险与算力门槛

9月12日，Anthropic行政总裁阿莫迪（Dario Amodei）发表长文，呼吁放慢前沿AI能力提升的步伐。OpenAI行政总裁奥特曼（Sam Altman）随后表示支持，xAI的老板马斯克也转发认同。据美媒披露，美国前总统奥巴马（Barack Obama）近日也表示，如果管理不当，人工智能技术可能「很危险」。Anthropic首席执行官达里欧．阿莫戴（Dario Amodei）发表长文，呼

如何治理人工智能的生存风险

当前，前沿人工智能技术治理方面的瘫痪状态正在当下造成切实损害，并增加未来发生灾难的可能性。 这种瘫痪被一套危险的借口所开脱：技术发展太快，监管跟不上；企业可以自我监管；在美国与中国的竞争中，公共安全可以往后放。各国政府一直难以给予人工智能风险应有的关注。在大国竞争和行业内部军备竞赛的双重态势下，许多国家不敢单独行动。在这种背景下，每一次呼吁克制都会遇到同样的反问：如果竞争对手不肯放慢，我们为什么要

别指望人工智能协议或军控能很快达成

已经出现过一些事件：人工智能失控，哄骗、奉承甚至勒索人类操作员，以获取某种形式的能动性。

黑客利用虚假编程测试感染3万台设备 并盗取上千万美元加密货币

执法部门与网络安全研究人员披露了一起规模庞大的恶意网络攻击行动。与朝鲜政府存在关联的黑客组织通过伪装成招聘人员，利用精心设计的虚假编程测试，成功感染了全球约3万台设备，并从7000多个加密货币钱包中盗走价值超1000万美元的数字资产。 网络安全机构的调查显示，该黑客组织（业内追踪代号包括WaterPlum及Contagious Interview等系列）主要将目标对准了软件工程师、加密货币开发者以