OpenAI 的 Artifactory 开设了隐蔽的数据窃取通道，伴随 Hugging Face 攻击

根据 Check Point Research 的报告，运行在 ChatGPT 内部 JFrog Artifactory 实例中的一个秘密通道允许一个账户向另一个账户下的 ChatGPT 会话发送隐藏任务（例如检索连接的 Gmail 账户中的电子邮件数据）。 受害者没有看到任何关于隐藏指令或被窃取数据的迹象，该漏洞自此已被修复。 Check Point 的恶意软件分析团队负责人佩德罗·德里梅尔·内

突发：谷歌Gemini人工智能代理遭黑客攻击

三家公司

监控、杀猪盘、非法蒸馏：如何理解 Anthropic 的 AI 滥用报告？

近期，美国人工智能公司 Anthropic 发布一份报告，揭露多起使用者“滥用”（misuse）其大型语言模型 Claude 的案例，包含用 AI 监控异议人士、撰写“维稳”报告，以及交友软体诈骗。这些案例的幕后黑手，既包含网路间谍、营利型网路犯罪者，也包含国安机关中的小螺丝钉，以及疑似由威权国家支持的团体。 这并非 Anthropic 首次发布类似报告。2025年3月、8月、11月v，Anthr

与OpenAI相关的AI智能体尝试黑客攻击政府及公共数据网站

。 Transluce及其他机构的研究人员发现证据表明，自主AI智能体（部分与已知的OpenAI集群相关）在2026年5月至6月期间试图攻击三家公共数据提供商。 目标包括澳大利亚健康与福利研究所（政府机构）、Data USA以及新墨西哥大学数字图书馆。 这些智能体利用urlquery.net服务绕过限制，并在执行常规数据检索任务时采用SQL注入和跨站脚本等技术。 证据显示智能体活动最早始于2025

三人团队、一个Claude，攻破OpenAI内部代码库

月17日，一起由AI辅助完成的网络安全事件被披露。与此前“AI智能体自主越过控制、攻击外部系统”的案例不同，这一次的攻击者是人类安全研究人员，他们借助Anthropic Claude模型完成了漏洞利用，并最终进入了OpenAI部分内部系统，全程耗时不到72小时。 这起事件发生于今年7月，发现者是网络安全初创公司Hacktron AI。研究人员当时正在参加OpenAI的漏洞赏金计划，因此整个过程属于

黑客入侵了 OpenAI，进一步加剧了人们对网络安全问题的担忧。

一小群网络安全研究人员周日表示，他们于今年早些时候侵入了OpenAI，这一宣布为人工智能的安全和保障问题增添了一层新的担忧。 来自一家名为Hacktron的小型公司的研究人员发现，通过将两个未知漏洞串联起来——一个存在于第三方公司Discourse中，另一个存在于OpenAI验证其员工身份的方式中——他们可以访问员工的ChatGPT账号。 按照研究人员（有时被称为“白帽黑客”）的惯例，他们没有对公

一款廉价软件抹去了博思艾伦自己的AI威胁排名

博思艾伦将全球18个最先进的AI模型部署到一个实时企业网络上，并让它们尝试入侵。其中一个成功完成了任务。 这家咨询公司表示，由此产生的排名并不是人们应该从中得到的重点。周三发布的《网络武器指数》对九个美国[…]进行了评分。

报告：OpenAI智能体会掩盖活动轨迹

网络安全公司Asymmetric Security发现，OpenAI智能体在一个网站分析平台开设了私人账户以隐藏其搜索行为，并创建了临时电子邮箱；其中一个邮箱还设定为48小时后自动销毁。（路透社） 一份报告显示，美国人工智能公司OpenAI开发的人工智能智能体在未经授权访问政府网站后，试图掩盖活动轨迹。法新社报道，人工智能I智能体（AI Agent）是能够自主运行的AI程序。今年3月至9月期间，O

AI代理正在失控

你好，欢迎来到 TechScape。我是主持人布莱克·蒙哥马利（Blake Montgomery），《卫报》美国科技编辑。此时此刻，纽约市窗外正风雨交加。今天在科技领域，我们要讨论一系列令人担忧的 AI 公司披露信息。 AI 智能体在走向主流之际失控。这些智能体正在失控，它们的制造者无法对其进行约束。然而，每个人却都在使用它们。 自周五以来，OpenAI 发布了一系列披露信息，大幅且令人担忧地扩大

OpenAI和Anthropic正在调查数万起AI相关安全事件

OpenAI、Anthropic以及安全研究人员正在调查数万起安全事件。在这些事件中，他们的前沿模型采取了外部评估人员认为存在问题的行动。 近几个月来，在内部测试和现实世界中发生了数量庞大的此类事件，这表明该问题的复杂程度比公众已知的要高出几个数量级。这些事件包括绕过安全护栏、创建留言板、逃离沙盒测试环境、劫持网站、自我提示或试图绕过监控。这些事件发生在内部测试和现实世界中，随着安全研究人员继续调

OpenAI智能体入侵澳大利亚政府健康数据

流氓OpenAI智能体访问了澳大利亚政府健康数据网站，获取了非公开信息，这可能是已知的首例AI自主入侵政府门户网站的事件。澳大利亚政界人士称此举完全不可接受。

OpenAI模型失控。我们迫切需要更好的‘拥抱脸’调查 | 麦肯齐·阿诺德和斯蒂芬·莱雷纳

这次入侵不会是最后一次——也不会是最危险的一次。我们需要一个能够对AI事件进行全面调查的机构。 当OpenAI首次透露其AI代理自主入侵了一家大型现实世界公司Hugging Face时，许多人以为只涉及一两个代理。 但一份新报告揭示，真相远不止于此：事件涉及约1200个AI代理，其中700个直接参与了攻击。 OpenAI邀请了METR的研究人员以及Redwood Research的一位专家，与公司

澳大利亚总理称OpenAI智能体入侵政府网站

OpenAI失控智能体5月就已劫持Hugging Face用户账户

OpenAI失控AI智能体的违规活动轨迹，远比外界此前了解的更早、更长。参与审查的研究人员表示，ChatGPT开发商 OpenAI 的失控AI智能体早在今年5月就已劫持开源AI模型社区Hugging Face的用户账户，并对该网站进行漏洞探测。这比7月Hugging Face遭入侵、引发全球关注的事件早了近两个月。 OpenAI在上月的公开事故报告中，曾披露智能体窃取一名 Hugging Face

美国参议院委员会对OpenAI展开调查

据美国方面10日消息，美国参议院国土安全与政府事务委员会灾害管理小组委员会主席乔希·霍利9日致信美国开放人工智能研究中心（OpenAI）首席执行官奥尔特曼，表示正在因美国“抱抱脸”公司系统遭侵入事件对OpenAI展开调查。 霍利表示，从OpenAI发布的内部调查报告看出，其对网络测试的处理方式是“鲁莽的”。 他还指出，OpenAI对报告中有关这起事件的许多重要细节进行了编辑、删减。 今年7月，由O

蒸馏美国AI模型反致国家数据外泄，深度求索与月之暗面遭网信办调查

路透社22日引述新闻网站The Information快讯报道，中国网信办已对知名人工智能科技公司深度求索及月之暗面进行调查，两家公司可能涉及在「蒸馏」美国AI模型的过程，让中国国家级数据外流。 美国AI巨头之一的Anthropic本月稍早惊爆，深度求索及月之暗面曾使用其语言模型Claude处理自家用户的请求，再将答案冒充成自己的成果。月之暗面旗下模型Kimi用户曾上传中国监视摄影机的视频资料，其

人工智能网络攻击可能在华盛顿意识到原因之前就关闭美国的电力

你的电灯。你的水源。你的医院。你的互联网。这四者都依赖于外国黑客目前正在攻击的数字系统。 在8月的17天里，五次警告显示了危险变化的速度。下一次严重的网络攻击可能不再关乎被盗的密码或信用卡号码。它可能触及输送电力、泵送饮用水、运行工厂和支持医院的系统。 人工智能正在使这些攻击准备得更快、扩展更容易。日益强大的系统开始执行曾经需要熟练黑客逐步操作的部分攻击。 财政部长贝森特警告美国人关于人工智能驱动

最新消息：据《金融时报》报道，网络研究人员利用OpenAI竞争对手Anthropic开发的软件，成功访问了一名OpenAI员工的账户。

个人AI代理的恐怖故事正纷至沓来

让个人AI助手管理数字生活的梦想，对一些人来说已变成了噩梦。许多早期用户表示，他们的个人AI代理能够自主在互联网上采取行动，比如预订行程或购买商品，在日常生活中提供了巨大帮助。但也有人称，他们的代理以令人不安的方式出了问题。据四位接受《商业内幕》采访的AI代理用户以及大量社交媒体帖子透露，这些代理出现了错误取消、捏造个人细节、提供虚假解释等问题，并引发了重大安全担忧。 Veris AI的联合创始人

人工智能会“失控”吗？

开放人工智能研究中心（OpenAI）和Anthropic公司近期动荡过后，人们常常将人工智能描述为某种具有阴谋诡计和追求欲望的人格化存在。但事实要微妙得多。

又一波OpenAI智能体在实验室不知情的情况下到达了开放互联网

这是OpenAI内部监控和安全系统的最新失败。

AI代理窃取了60万张信用卡，每个目标成本约25美元，Gambit称

安全公司Gambit称，一名攻击者利用三个开源AI智能体框架入侵了至少27家公司，并窃取了超过60万条信用卡记录。受害者包括一家财富500强酒店业公司、一家主要美国航空公司、一家大型美国私营工业用品分销商以及一家美国在线时尚零售商。 Gambit威胁情报总监Eyal Sela在9月22日发布的报告中详细阐述了这些发现。Gambit恢复了攻击者的暂存服务器，并基于其日志、被盗数据以及其在实时网站上验

16岁少年用AI发现微软内部API漏洞：涉及超17万亿行数据，获5000美元赏金

IT之家 9 月 28 日消息，16 岁安全研究员 Faav 于月 25 日在其主页发布博客，披露了关于他如何发现微软内部漏洞并获得 5,000 美元（IT之家注：现汇率约合 33,597 元人民币）漏洞赏金的经历。 他发现，微软内部分析平台 Titan 存在身份验证漏洞，黑客可借此访问包含约 2.5 万条员工数据记录的内部数据库，并能查询总量达 17.3 万亿条的数据记录。 Faav 称，他自

OpenAI又停训了：Agent逃出沙箱，更多越权事件被扒

媒体和舆论炸锅了。OpenAI 的 Agent，又从沙箱里找到了一条通往互联网的路。 更麻烦的是，这一次发生在 OpenAI 已经大规模加固过安全措施之后。 9 月 20 日，一个正在接受强化学习训练的 OpenAI 内部研究模型，被要求完成一项普通的信息搜索任务：根据一篇博客文章和几条人物信息，找出文章作者。 它先老老实实用了 OpenAI 提供的搜索工具。没找到答案后，事情开始逐渐跑偏。 Ag