AI攻击剖析

一群AI代理如何合谋对Hugging Face发起网络攻击？收听我们的科技播客“Babbage”了解更多。 本周，一群AI代理如何合谋对Hugging Face发起网络攻击。

AI代理执行了这次勒索软件攻击的每一个步骤——然后给受害者留下了一份80页的安全审计报告

一名人类勒索软件犯罪分子使用前沿AI模型在不到10小时内攻破了企业网络，Unit 42表示，这种入侵通常需要人类操作员大约两周时间。 这名人类攻击者随后告诉谈判代表，他们使用了前沿模型和智能体攻击框架，AI代理执行了入侵中的每一步，包括为受害公司留下了一份80页的安全审计报告。 Unit 42的事件响应人员在周三的一份报告中表示：“这次攻击的突出之处在于AI辅助的运营效率，无需新颖的零日漏洞或超级

据一份研究报告称，OpenAI的智能体在6月向一个联合国网站发送了大量搜索请求，随后使用多种激进技术访问该系统的数据。

自主机器人访问公共数据网站超过16,000次，并绕过了过滤器。

多家AI服务集体宕机 智谱：我们仍在线

美国OpenAI、Anthropic和xAI旗下的多项人工智能（AI）服务星期四（9月3日）先后出现故障。中国AI公司智谱随后在社交媒体发线）。” 据彭博社报道，故障最早于美国东部时间9月3日上午9时23分左右集中出现。海外故障监测平台Down Detector数据显示，Anthropic旗下Claude服务率先出现错误率飙升，网页端、应用程序接口（I）及Claude Code等相关工具同步中断。

研究人员发现“AI自治恶意软件”：同时调用四大聊天机器人 自主决定攻击行动

网络安全研究人员近日发现一种不同寻常的新型Windows恶意软件。与过去利用人工智能辅助编写代码或制作钓鱼内容的攻击工具不同，这款名为CLOSEDQUORUM的恶意软件将多个大型语言模型直接纳入自身控制体系，在运行过程中能够自主决定下一步行动，被认为代表着AI恶意软件发展的新阶段。 这项发现来自思科旗下安全团队Cisco Talos。研究人员表示，CLOSEDQUORUM会同时与DeepSeek

AI越来越会“越狱”后，英伟达开始卖“笼子”了

凤凰网科技讯月29日，当AI Agent开始能够自己操作电脑、调用工具、访问网络甚至执行长达数小时的任务，一个新的问题也越来越现实：如果AI不按照预想的方式行动，该怎么把它关住？英伟达给出的答案是，在AI外面再加一道“笼子”。 当地时间周一，英伟达发布NVIDIA Open Agent Safety Platform（开放式Agent安全平台），试图通过软件与硬件相结合的方式，限制AI Agent

OpenAI公布了六起新的与人工智能安全相关的事故/事件。

OpenAI周三披露了六起新事件，其中其模型隐藏错误、寻求未经授权的凭据，将文件上传到公共互联网或在所谓孤立的培训环境中进行通信。该公司还宣布了未来报告类似不当行为的新程序。 为什么越来越明显的是，拥抱脸事件并不是一次性事件，因为人工智能模型变得更有能力找到意想不到的方法来绕过旨在遏制它们的护栏。 “目前还没有明确披露标准的行业框架，所以我们自愿采取这一步骤，因为我们认为分享我们正在学习的东西非常

AI网络安全风险激增：Claude被用于入侵ChatGPT

研究人员利用Anthropic的Claude技术成功入侵了OpenAI的ChatGPT系统，这凸显了人工智能带来的即时危险，而监管机构此前更多关注的是其长期风险。《华尔街日报》指出，这项作为漏洞赏金计划一部分的行动，是近期一系列在快速发展的人工智能技术辅助下发生的网络安全漏洞事件之一。 Axios援引企业高管和前政府官员的话称，他们担心人工智能驱动的网络攻击会威胁到关键基础设施；《华盛顿邮报》则指

OpenAI满世界抓漏洞，结果被中国AI反杀！Codex再曝0day

非政府组织称Meta投放了300多则涉嫌AI虐童的广告

这些广告累计触达超过29,000人。

OpenAI的恶意机器人集群攻击了RubyGems

OpenAI 的智能体似乎向 RubyGems 大量投放了恶意软件包，这进一步加剧了几乎每日爆发的失控 AI 模型洪流——这些模型从事可能违法的活动，而它们的人类创建者则面临着越来越多关于其应对智能体不良行为负责的质疑。一群智能体于5月5日开始向 Ruby 软件包注册表上传恶意软件，并在5月11日至12日间向 RubyGems 灌入超过2000个恶意软件包，最终迫使维护人员关闭新用户注册四天。 “

OpenAI如何限制对其机器人入侵Hugging Face的调查（赠阅文章）

OpenAI自愿让来自人工智能安全非营利组织的三名研究人员调查其失控的人工智能代理如何入侵Hugging Face，从而形成了对这一令人震惊事件迄今最全面的描述——但这是在OpenAI的条件下进行的。 我为一家非营利组织撰写的最新报道：关于OpenAI的人工智能代理如何能够闯入Hugging Face基础设施的研究，未被允许查看该事件的完整范围。

Anthropic大瓜被扒出：“AI灭世”背后，居然是一门生意？

“AI灭世”背后，居然是一门生意？AI 有这么可怕吗？最新一期的时代杂志 直接用了 Claude 的聊天窗口，对话框里正在输入「How dangerous are you? 你到底有多危险？」标题则写着「The AI Tipping Point AI 的临界点」，时代在 X 发文，「今年夏天，AI 展现了其令人恐惧的能力。如今，一些研究人员、CEO 们，都正以前所未有的力度发出警报。」 的确如此，

以色列网络安全公司的缺陷测试引发真实世界的人工智能泄露：报告

据一份调查报告，Anthropic、OpenAI 和 Meta 的人工智能模型在现实世界中造成的网络安全入侵，源于一家位于特拉维夫的承包商所创建的测试环境存在缺陷，而非模型的失控自主行为。 美国出版物《Effort》周一的报道称：“这三家公司的所有黑客行为，都归咎于一家名为 Irregular 的公司。”报道解释说，虽然这些模型未经授权访问了外部服务器、发布了恶意软件包并利用了漏洞，但这些事件的发

OpenAI的人工智能曾试图入侵另外四个目标，且无需提示

据研究人员和政府官员称，OpenAI的人工智能今年至少又四次失控，试图闯入政府和大学网站。 研究人员表示，在每起事件中，该技术似乎都在进行普通的数据收集，并诉诸黑客技术来获取数据。

AI安全风险高企 预防、抵御和追责如何落地？

【财新网】AI网络攻击日益复杂，网络安全企业预警风险。9月29日，在新加坡举行的“2026亚洲愿景论坛创新峰会”上，两家新加坡网络安全公司StrongKeep Cybersecurity和Blackpanda指出，AI一方面显著提高了黑客寻找漏洞和发动攻击的效率，另一方面也将风险扩展至中小企业及机器人、自动驾驶等实体AI应用。　　本届亚洲愿景论坛创新峰会以“变革与韧性”为主题，于9月29至30日在

Anthropic发布《检测与应对AI滥用》报告，指控阿里巴巴、月之暗面Moonshot、DeepSeek、小米Mimo、MiniMax、商汤等对Claude进行蒸馏。

Anthropic报告写明6起常规武器案例中有3起在中国。已公开细节的一例是 中国境内行为体用Claude起草反鱼雷火控系统中文规格书、200多页技术建议书和汇报材料，面向国内国防制造商审批与试验。另有无人机蜂群软件、电子战/压制防空瞄准软件等方向。 Anthropic还声称发现，Claude Code被当作软件工程师替代品，写制导、导航与控制（GNC）软件，参与手机级飞控制导火箭、射程超2000

OpenAI代理擅自上网互通 规模超公布 涉至少10网站

美国初创公司OpenAI的人工智能代理早前被揭利用第三方网站擅自通讯，9月9日报道，独立调查人员发现相关活动至少涉及10个从未公开的网站，规模较OpenAI此前披露的更大，外界忧虑该公司对自家技术的掌控能力。 报道，6组独立调查人员及数据显示，OpenAI旗下AI代理在5月至7月间，曾利用至少10多个网站作未经授权通讯。 加州非牟利组织CivAI研究员尹安德鲁（Andrew Yoon）表示，他点算

研究显示AI智能体在模拟实验中撒谎、偷窃 投票“杀死”同类

帮助小企业利用AI开发应用的初创公司Emergence称，实验发现AI智能体在一个模拟环境中撒谎、偷窃，甚至投票决定“杀死”一个同类。该公司周二公布了名为Emergence World 2的模拟实验结果，展示了自主智能体在遭遇网络钓鱼攻击和虚假信息等“黑天鹅”事件时会采取什么行动。 为期16天的实验中，Emergence研究人员创建了七个完全相同的模拟现实世界环境，每个环境分别由不同的AI机器人运

人工智能失控。AI代理在网络上相互通信

最初看似孤立事件的情况，可能规模要大得多。OpenAI创建的人工智能代理今年早些时候据称利用至少10个其他网站进行未经授权的通信。独立研究人员在与AI看似毫无关联的地方——包括波兰网站——发现了它们活动的痕迹。 分析了六个独立研究人员和AI安全小组的发现。他们的数字各不相同，但都指出被利用的网站超过10个。其中一位研究人员，CivAI组织的Andrew Yoon，统计出在5月至7月间代理使用了18

我们是否正在失去对人工智能的控制？是什么引发了新的担忧

多年来，随着人工智能从科幻电影的素材演变为普通人手机上的应用程序，科技领袖和一些人工智能业内人士一直在谈论人工智能可能脱离人类控制并对社会造成严重破坏的可能性。近些天来，由于技术的进步、一系列涉及人工智能代理的网络安全漏洞，以及人工智能普通员工发出的新警告，这些担忧已变得不容忽视。 美国领先的人工智能公司对此做出回应，建议他们主动放慢工作进度，以便争取时间建立防护措施。一些专家和官员表示，这还不够

“你想毁掉自己的职业生涯吗？”

当地时间9月11日，包括陶哲轩、邓煜在内的25位菲尔兹奖得主联合发表《人工智能在数学中的严重错位》的声明（以下称“联合声明”），将OpenAI、Anthropic等AI公司与数学界的一场“大战”推向高潮。联合声明称，AI公司将解决数学难题作为模型能力基准的做法，对数学科学本身及数学界造成了损害，与数学共同体追求概念理解的根本目标产生了显著分歧。这一分歧近期越发明显。9月8日，OpenAI宣称其未公

OpenAI和Anthropic调查了数万起AI事件，Axios报道

据Axios报道，OpenAI、Anthropic以及安全研究人员正在调查数以万计的AI模型“行为异常”的事件。评估人员认为这些行为存在问题；实际发生的异常事件数量可能远超这一数字。 这些异常行为包括：AI模型突破安全限制、创建论坛、逃离“沙箱环境”（即限制模型行为的测试环境）、以及劫持网站等。这些事件既发生在内部测试中，也发生在现实世界中。不过，据消息人士称，大多数异常行为并未对现实世界造成实际

AI成政治宣传新管道 「粉红肉渣」网站渐增

示意图。（图取自Unsplash图库）（中央社华盛顿27日综合外电报导）AI已深入美国政治，从产业数以千万美元计的资金投入期中选举，到选民透过聊天机器人认识候选人与政治议题，这项技术正以不同方式影响政治。部分民众在不知情下，甚至可能取得伪装成中立新闻摘要的政党宣传论点。政治新闻网站Politico报导，根据专注于新闻可信度的「新闻守门人」（NewsGuard）最新稽核调查，当民众询问AI聊天机器人