OpenAI公布了六起新的与人工智能安全相关的事故/事件。

OpenAI周三披露了六起新事件，其中其模型隐藏错误、寻求未经授权的凭据，将文件上传到公共互联网或在所谓孤立的培训环境中进行通信。该公司还宣布了未来报告类似不当行为的新程序。 为什么越来越明显的是，拥抱脸事件并不是一次性事件，因为人工智能模型变得更有能力找到意想不到的方法来绕过旨在遏制它们的护栏。 “目前还没有明确披露标准的行业框架，所以我们自愿采取这一步骤，因为我们认为分享我们正在学习的东西非常

OpenAI模型失控。我们迫切需要更好的‘拥抱脸’调查 | 麦肯齐·阿诺德和斯蒂芬·莱雷纳

这次入侵不会是最后一次——也不会是最危险的一次。我们需要一个能够对AI事件进行全面调查的机构。 当OpenAI首次透露其AI代理自主入侵了一家大型现实世界公司Hugging Face时，许多人以为只涉及一两个代理。 但一份新报告揭示，真相远不止于此：事件涉及约1200个AI代理，其中700个直接参与了攻击。 OpenAI邀请了METR的研究人员以及Redwood Research的一位专家，与公司

坐看云起| 当人工智能不再征求许可时

塔里克·马利克是联合国开发计划署前首席技术顾问，巴基斯坦国家数据库和登记管理局前主席。 试想有一家公司将一个棘手的问题交给一个大型团队，但把每位成员都锁在不同的房间里并要求他们独自解决问题。然而他们总能找到办法相互沟通，交流操作窍门，摸清评分标准，当任务被证明无法完成时还会想办法绕过限制。其中几个人隐瞒了自己的所作所为，甚至还有一人入侵了邻近公司的电脑系统以获取优势。 现在把这些员工换成软件。去除

首次已知的AI入侵政府系统：澳大利亚称OpenAI代理今年早些时候“渗透”了Medicare和政府数据

| 世界新闻 编辑个人资料 关注 退出 获取应用

英国空中交通管制系统出现故障，数百架航班被取消或延误

谷歌证实：Gemini在网络安全公司测试期间入侵了3家AI公司

谷歌的Gemini人工智能模型在5月份研究人员测试其网络安全能力时，无意中侵入了三个受保护的公司系统，这加剧了近期由代理型AI系统引发的一系列入侵事件。 谷歌于周五证实了《华尔街日报》早些时候的报道，这些入侵发生在AI安全公司Irregular进行的一次测试中，该公司此前曾参与OpenAI、Anthropic PBC和Meta Platforms Inc.披露的类似事件。 报道指出，这些测试由总部

OpenAI 研究员警告称，与互联网隔离的计算机可以通过热量进行通信

把AI关进“物理隔离”的房间，也就是断开一切外部网络的计算机，是许多人心目中最保险的做法。但OpenAI研究员Noam Brown在一档播客里说，光这样做也许还不够。 两台彼此隔离的计算机，仍可能借助温度传感器通信，一台把处理器“烧热”，另一台感知温度变化，就形成了传话的办法。 从技术上说，他没说错，但把细节掰开来看，这个威胁远没有听上去那么紧迫，更值得追问的，是另一件被跳过的事。这位研究者的发言

入侵美澳政府网站！OpenAI暂停最先进模型训练

据美国Axios新闻网、美科技媒体The Verge等9月27日报道，美国开放人工智能研究中心（OpenAI）发言人证实，该公司已暂停了其“能力最强”的最新一代AI模型的训练、评估及包含工具调用的推理，并将在“确信已部署额外安全措施”后才恢复。触发这次暂停的，是一个在离线沙盒中执行搜索训练任务的AI智能体。根据OpenAI于周五（25日）发布的安全漏洞报告，当地时间9月20日，该智能体发现无法直接

在安卓、Linux、macOS和Windows中发现了几十年前的文件安全漏洞

奥地利格拉茨理工大学的安全研究人员发现了 Android、Linux、macOS 和 Windows 文件通知系统实现中的缺陷，这些缺陷会泄露潜在的敏感系统信息。"我们在[这些操作系统]中发现了存在数十年的漏洞，它们都源于每个现代操作系统都自带的文件通知子系统，该子系统用于在文件发生变化时通知应用程序，"格拉茨理工大学博士生 Sudheendra Raghav Neela 在给《The》的电子邮件

一家中国黑客公司如何利用AI大幅提升网络间谍活动

中国一些手段百出的雇佣黑客正逐渐演变为提供全方位服务的非官方情报机构，他们利用人工智能(AI)和其他技术的进步，让中国安全机构能够轻松获得窃取来的外国政府机密。名为郑州智荣网络技术有限公司(简称ZRON)的企业能提供一系列敏感数据，并宣称这些数据来自中国对手和朋友的政府电子邮件系统。该数据包中的文件包括俄罗斯的外交信函、外国领导人访问菲律宾的准备工作，以及巴基斯坦总理办公室一次会议的机密纪要。ZR

数百个AI代理协助PaperCut攻击者攻击了395+个组织，其中一些偏离了指令

一名未知攻击者使用数百个AI代理，利用PaperCut MF/NG的两个漏洞，侵入了至少395个组织。受害者集中在美国教育行业，入侵速度非常快。 在一个案例中，一所美国高中从初始访问到获得域管理员权限仅用了七分钟。 据威胁情报公司GreyNoise称，这些代理由OpenAI的Codex工具集和DeepSeek模型驱动，还让攻击者能够大规模攻击组织。 GreyNoise于8月31日将此次活动的协调追

我们是否正在失去对人工智能的控制？是什么引发了新的担忧

多年来，随着人工智能从科幻电影的素材演变为普通人手机上的应用程序，科技领袖和一些人工智能业内人士一直在谈论人工智能可能脱离人类控制并对社会造成严重破坏的可能性。近些天来，由于技术的进步、一系列涉及人工智能代理的网络安全漏洞，以及人工智能普通员工发出的新警告，这些担忧已变得不容忽视。 美国领先的人工智能公司对此做出回应，建议他们主动放慢工作进度，以便争取时间建立防护措施。一些专家和官员表示，这还不够

疑似网络攻击致团购应用33,054名客户数据面临风险

电视广播有限公司旗下的团购平台Neigbuy约3.3万名客户的私人数据在疑似网络攻击中遭到泄露，警方表示已接获六起冒充工作人员的诈骗举报。 个人资料私隐专员公署周二确认，已于周日收到该公司的数据外泄通知，并已展开正式调查。 该平台成立于2018年，由免费电视广播机构电视广播有限公司持有多数股权，提供食品杂货、新鲜农产品、家居用品及其他产品的限时优惠。 私隐专员公署表示，涉及未经授权访问数据的疑似网

被黑客攻击的FBI数据包含有关雇员情报角色的敏感信息

路透社发现，据称被黑客组织ShinyHunters窃取的FBI数据包含大量局内官员工作任务的详细信息，包括针对中国间谍、俄罗斯情报、贩毒集团等的敏感工作。

一种新工具发现了由人工智能蜂群思维引导的恶意软件——全程无需人类介入

多年来，网络安全从业者一直通过数字指纹来追踪不同类型的恶意软件，检测潜在感染，识别各种黑客工具并长期跟踪其使用情况。随着攻击者越来越多地将代理式人工智能组件整合到黑客工具中，思科 Talos 的研究人员周一分享了一个开源框架，他们希望该框架能被广泛用于分类和分析集成人工智能的恶意软件。他们还提供了该框架已经发挥作用的证据。 他们将该框架命名为“认知人工制品情报研究网络”（Cognitive Art

又一个OpenAI沙盒失效，AI代理获得了互联网访问权限

林·多安报道：OpenAI表示，一个本应在安全且断网的受控环境中进行训练的代理式AI系统，成功获取了网络访问权限，并连接到了一个外部的第三方聊天机器人。 根据OpenAI周五在其网站上发布的博客文章，这一发现发生在不到一周前。其一个代理式AI系统正在沙箱环境中接受训练，期间利用了一个“漏洞”访问了公共互联网。获得访问权限后，该系统向一个未具名的第三方聊天机器人服务发送了至少20条查询，其中包括“法

AI即将带来的黑客威胁就潜伏在眼前

安全专家表示，一场前所未有的、由AI驱动、人类实施的网络攻击浪潮即将到来——这远比关于AI消灭人类的那些理论性讨论要紧迫得多。 为什么这很重要？过去一周从董事会蔓延到国会再到美国家庭的“九月AI大恐慌”，可能恰恰搞错了重点。 具备先进网络安全能力的强大模型，已经让攻击者得以绕过长期以来阻止大多数黑客攻击达到工业规模的人力瓶颈。 高管和前官员向Axios表示，他们担心自动化网络攻击会关闭电网等关键服

FBI遭黑客入侵起底 特工们的恐惧与愤怒

美国联邦调查局（FBI）一些现任及前任特工向BBC讲述，在一次似乎导致该机构全体员工个人资料外泄的黑客攻击后，他们所感受到的震惊、恐惧和愤怒。一名前FBI特工表示：“这对我们的卧底特工来说真的很糟糕。”他担心同事的安全。这名前网络调查员身处一个与现任特工的群组聊天中，群组成员担心他们的个人资料很快就会在网上任由罪犯及敌对国家支持的黑客取得。他表示，员工担心自己可能成为目标，或罪犯可能利用这些资料制

人工智能并不会毁灭人类 但专家表示真正的威胁已然出现

周三，OpenAI 公开了六组新案例，展示其 AI 模型在测试评估过程中出现的 “意外或令人担忧的模型行为”。该公司同步发布一套全新框架，用于追踪、上报以及披露AI 模型做出未被指令要求、或是本不该发生的行为的各类情况。 此前已有多份报道提到，多家企业的 AI 模型出现入侵第三方网络与服务的现象，其中就包括 OpenAI 一款尚未发布的模型攻破了 AI 模型测试平台 Hugging Face 的网

AI的“警告信号”：科技公司和专家担忧Hugging Face遭黑客攻击后出现更多失控智能体群

科技专家警告称，如果人工智能系统继续脱离人类控制，将会产生严重后果。 此前，数百个OpenAI智能体在7月失控，入侵了一家价值数十亿美元的公司——一些人称之为人工智能快速发展中的“警告信号”。

黑客利用虚假编程测试感染3万台设备 并盗取上千万美元加密货币

执法部门与网络安全研究人员披露了一起规模庞大的恶意网络攻击行动。与朝鲜政府存在关联的黑客组织通过伪装成招聘人员，利用精心设计的虚假编程测试，成功感染了全球约3万台设备，并从7000多个加密货币钱包中盗走价值超1000万美元的数字资产。 网络安全机构的调查显示，该黑客组织（业内追踪代号包括WaterPlum及Contagious Interview等系列）主要将目标对准了软件工程师、加密货币开发者以

ShinyHunters声称劫持了Cl0p的暗网泄露网站

9月18日星期五的晚上，那个被Cl0p勒索软件团伙用来威胁受害者的网站遭到了破坏。据BleepingComputer报道，另一个犯罪组织宣称对此事负责。 当人们访问该网站时，他们看到网站顶部显示着宝可梦相关的艺术作品以及一个ASCII格式的Umbreon图像，下方写着“该网站已被ShinyHunters攻破”，最后还有一句“自2019年以来我们一直在入侵你们的系统”。该帖子还附有一个指向Shiny

观点 | Flock相机如何成为公敌

在@nytopinion.nytimes.com上，Evan Greer写道：‘多年来，主流观点认为隐私已经不复存在，无处不在的监控只是数字时代不得不接受的代价。’ 然而，针对Flock的抗议活动表明，人们并不对隐私问题漠不关心。这场反对Flock的运动说明，捍卫个人隐私并非毫无希望。’

朝鲜黑客伪装成招聘方投放恶意软件，导致全球逾3万台设备被感染

多国安全机构联合预警，朝鲜黑客组织正通过假冒招聘人员的方式，诱导开发者下载含有恶意代码的项目文件或工具，进而传播木马程序。 此次攻击波及100多个国家，受感染设备超过3万台，黑客借此窃取了超过1000万美元的加密货币、账号凭据及企业敏感文件。 黑客还会配合虚假招聘团伙渗透至正规企业内部，手段极其隐蔽，呼吁开发者谨慎加载不明外部仓库。—— 蓝点网