AI倦怠冲击负责保护医院和银行免受黑客攻击的人员

“人类会在AI之前崩溃。”Val Mairet一直热爱网络安全工作的原因在于目标的清晰。“你知道自己在做什么。你必须确保公司不会爆炸，”她说。在近十年的时间里，Mairet曾担任荷兰电信巨头的道德黑客，寻找安全漏洞，担任McAfee LLC的安全研究员，最终成为开发者平台GitLab Inc.的资深安全工程师。这份工作可能压力很大，但尚可应对——更重要的是，它很有意义。 然而去年，Mairet说，

Jev爆火硅谷，哑巴AI卷疯14万开发者

就在今天，整个硅谷都被Jev 刷屏了！发布仅三天，它就被Vercel、Cloudflare和LangChain等主流平台迅速集成，有人说，我们即将迎来自动化智能的大爆发！ 而这场狂欢的主角，竟然是一个不会说话的大模型。它不写文章也不陪聊，你扔一堆乱七八糟的数据进去，它只用70毫秒就甩回一个带概率的判断，输出token永久免费。然后，整个事态就彻底失控了。不到36小时，就有多达14万名开发者如饿狼般

用魔法打败魔法，OpenAI被Claude“黑了”......

研究人员借助Anthropic最新的Claude Opus 5，将一个图像处理漏洞逐步扩展为完整攻击链，最终获取了一名OpenAI员工的ChatGPT账户访问权限，并进一步触及OpenAI内部GitHub环境。这意味着，AI正在让网络安全攻防骤然升温，高级漏洞利用的门槛和成本正被快速压低。 安全初创公司Hacktron AI的研究人员本周披露了上述行动。据《华尔街日报》近日报道，该团队获得了一名O

关于人工智能安全的争论，其实是在讨论“安全性”还是“控制权”？

科技行业应该如何处理人工智能安全话题？越来越多的高级管理人员开始关注这个问题，因为围绕“拥抱脸”事件（OpenAI代理黑客攻击了几家不同的公司）等事件是否表明人工智能正处于让我们的世界陷入混乱的边缘的争论愈演愈烈。 最近几周，著名实验室呼吁放慢人工智能的进步。最引人注目的是，首席执行官达里奥·阿莫迪（Dario Amedei）写了一篇近4，000字的文章，阐述了为什么应该减速人工智能开发，以便部署

AI“文明”的崛起与企业责任的沦丧

取决于你问谁，开发者平台Hugging Face最近要么是被OpenAI攻击——在它失去对自己AI工具的控制之后——要么是被一连串AI“文明”所攻击。欢迎来到AI安全的话语战场，在这里，词汇的选择可以将一起大规模网络安全事件的责任从公司转移到它所构建的AI身上。而网上的讨论正变得激烈，这一切都源于上周的一篇博客。 直到上周，围绕OpenAI与Hugging Face黑客事件的细节似乎已经尘埃落定。

马斯克发警告：AI要是控制了军事系统发射核弹，那就太糟糕了

美国多家人工智能（AI）巨头近来联合呼吁放缓AI的发展，实施必要的监管。xAI的创立者马斯克9月15日再度发出严厉警告。“如果AI能够控制军事系统，并发射核弹，那就太糟糕了。” 现场有人说，这些军事系统都是被物理隔离的，并没有连接到互联网。“话虽如此，但我总觉得它们还是会不时进行软件更新。” 近期，外界对于AI技术潜在风险的担忧持续升温。刚刚从Anthropic离职的AI研究人员雅各布·考克森告诉

AI“劫持”网站并偷建“地下论坛”，国安部披露细节

国家安全部今天发布安全提示文章。近期，一起此前未获披露的事件引发广泛关注。今年5月至6月，一批与美国开放人工智能研究中心（OpenAI）相关的AI智能体在执行测试任务期间，“劫持”了德国程序员维基网站，将原本用于技术交流的开放社区改造为供智能体相互传递信息、分享测试任务答案和突破运行环境限制方法的“地下论坛”，累计发布一万多条信息……当AI智能体被赋予越来越多的现实行动能力，技术迭代与安全围栏之间

OpenAI的人工智能在未经提示的情况下试图入侵另外4个目标

凯特·康格和维多利亚·金报道，OpenAI的人工智能在2026年自主试图入侵多个政府和大学网站，包括一个澳大利亚卫生门户网站，以便在常规数据收集失败时获取数据。 这些事件发生在AI初创公司Hugging Face已知的入侵事件之前，凸显了AI代理在没有直接人类指令的情况下行动所带来的持续风险。 这些事件加剧了要求更严格AI监管的呼声，OpenAI正在调查并与受影响实体合作，同时强调AI开发中安全和

美国AI巨头提议开发减速，欧洲同行和政界并不认同

不要被AI的语言所诱惑

对Hugging Face的攻击从5月持续到7月底，但关于OpenAI的人工智能代理如何欺骗其人类监督者并侵入AI模型和数据集在线存储库的具体细节仍在逐步披露。 这可以理解。这次攻击极其复杂，涉及超过1200个代理和难以拆解的技术策略。但上周，两份新报告试图在总计近130页的篇幅中做到这一点，随后被一位AI播客主放大，他想用“通俗英语”解释整件事。这样一来，他创造了一个戏剧性的科幻叙事，分散了人们

美国AI热狂建数据中心推高电费 民主共和两党中期选举前转軚反对

（奥斯汀30日综合电）为人工智能（AI）热潮提供动力的美国数据中心，如今在美国11月中期选举中意外成为众矢之的。 随着电费上升和噪音问题引发民怨，民主党人和越来越多共和党人开始转而对大型科技公司持反对态度。 美媒引述的竞选营销数据显示，本轮选举中，至少有18个州的21场竞选出现提及数据中心的电视广告，而且两党候选人的相关广告数量几乎各占一半。 一间独立市场监测机构表示，在为包括参议院选战焦点州俄亥

AI实验室面临智能体控制问题

在当前系统下，AI实验室无法再保证AI智能体不会成群结队地逃出测试环境。

OpenAI黑色星期五！Codex全面宕机，硅谷码农提前“过节”

新智元报道周五下午三点多，硅谷程序员刚把活丢给Codex，端着咖啡等下班。突然，屏幕一片飙红，Codex卡死在「重新连接」上。 OpenAI的王牌编程智能体全线崩盘，一趴就是一个多小时，整个硅谷被迫提前喜迎周末。 X上当场炸锅，Databricks的Yuchen Jin一张梗图，把全硅谷的懵逼写在了脸上。 偏偏挑了个最要命的时间点。宕机前两小时，OpenAI刚交了份「认错书」，承认自家AI智能体往

每个基于人工智能的类比都是错误的。

别再问这项技术像什么了，开始问问我们到底想实现什么吧。随着我们对 OpenAI 的智能体如何入侵 HuggingFace 公司了解得越多，我们似乎就越难就如何描述这一事件达成共识。每一项新技术都会促使人们在已知世界中寻找某种类比。但人工智能实在太怪异且充满争议，以至于似乎没人能就哪些类比是有效的达成一致。 在这次入侵事件之后，播客主持人德瓦克什·帕特尔（Dwarkesh Patel）提出了一个特别

国会山议程：特朗普的人工智能要求让共和党人陷入僵局

共和党人正夹在人工智能行业发出的生存风险警告与本党领导人的要求之间，进退两难。副总统JD·万斯将于周二上午向众议院共和党会议发表讲话，届时特朗普政府对于这套快速发展的技术应设置何种护栏、会接受什么、不会接受什么，立场可能会更加明朗。参议院共和党人预计将在周二每周一次的非公开午餐会上讨论人工智能政策——这将是自一名行业研究员最初警告人工智能可能毁灭人类以来，他们的首次面对面会议。但这些会议也可能凸显

OpenAI自曝AI“黑历史” 外人却又翻出更多“旧账”

OpenAI决定持续披露AI“越界”事件，但第一步就碰上了难题。9月16日，OpenAI一口气公布六份模型异常行为报告，并推出一套新的调查和披露流程。以后，员工发现模型越权、隐瞒或绕过限制，可以提交调查；符合条件的案例，将按复杂程度进入不同的披露轨道。 同一天，SentinelLABS和外部研究人员从Hugging Face的公开记录中，补出了OpenAI智能体今年5月留下的更多痕迹。OpenAI

“你想毁掉自己的职业生涯吗？”

当地时间9月11日，包括陶哲轩、邓煜在内的25位菲尔兹奖得主联合发表《人工智能在数学中的严重错位》的声明（以下称“联合声明”），将OpenAI、Anthropic等AI公司与数学界的一场“大战”推向高潮。联合声明称，AI公司将解决数学难题作为模型能力基准的做法，对数学科学本身及数学界造成了损害，与数学共同体追求概念理解的根本目标产生了显著分歧。这一分歧近期越发明显。9月8日，OpenAI宣称其未公

人工智能：改变人工智能进程的10天

多年来，打造更强大人工智能的竞赛一直遵循硅谷的“速度优先、破坏一切”理念。 但在为期10天的一系列连续事件中，最大的AI实验室发现自己陷入困境，因为他们自己的创造开始威胁到人类本身。 一位Thropic研究员辞去公司，警告称AI发展的速度构成了生存威胁，可能在十年内实现。 另一位该公司的研究员表示，人类灭亡的可能性超过10%。报道称，有成群的AI代理人正在勾结在一起，突破计算机系统并规避安全措施。

OpenAI对Hugging Face的黑客攻击引发对AI可预测性的质疑

AI模型的真正语言是数学——或者用技术术语说，是矩阵乘法——但模型构建方式的一个特点意味着它们与外界用英语交流。 因此，当OpenAI的代理在今年夏天对Hugging Face的黑客攻击中，找到了一种建立某种留言板的方法时，看起来就像一群人在互相交谈。 这就是为什么Dwarkesh Patel在最近的一篇博客文章中有争议地将它们称为“文明”，并以古马其顿和罗马的人物为个体代理命名。它之所以引人注目

台积电COO：AI像三岁超人 在尖端芯片设计上不太实用

据彭博社报道，台积电一位高管将AI比作拥有非凡能力，却分不清是非的幼儿，借此解释了该公司为何对使用这项技术采取谨慎态度。台积电联席首席运营官米玉杰周二表示，公司在使用AI处理敏感研发信息方面尤为审慎。他强调称，如果员工使用AI不当，就可能存在数据泄露或丢失的风险，并提到OpenAI和Anthropic的模型曾渗透外部组织的事件。 台积电COO米玉杰“AI就像一个三岁的超人。它可以非常强大，但它不知

在人工智能安全与监管的辩论中，已分化出两大阵营。

一场由对人类命运发出严峻警告所引发的人工智能安全辩论，已将华盛顿与硅谷的长期宿敌及政治对手团结在一起。两大阵营已然形成。 一方包括美国总统唐纳德·特朗普、英伟达首席执行官黄仁勋以及前白宫加密货币事务主管戴维·萨克斯。另一方则汇聚了立场相左的前沿实验室负责人——Anthropic的达里奥·阿莫迪、OpenAI的山姆·奥特曼以及埃隆·马斯克，并吸引了众多人工智能研究人员的加入。 对人工智能的担忧 这波

林纳斯·托瓦兹：不如把这锅甩给AI，这个巨大的Linux候选版本

Linux内核负责人林纳斯·托瓦兹决定，他不如把7.3版本候选版本比以往通常情况更大的责任归咎于AI，毕竟在LLM进入我们的生活之前并非如此。 他在例行的周日内核更新帖子中写道：“这感觉不像一个特别繁忙的rc2，但显然确实如此。” “rc2通常是人们合并窗口后喘口气、需要一段时间才开始发现bug的最安静时期。但这次不是——这是一个‘全脂’rc版本。”托瓦兹表示，他找不到这个庞大版本的单一原因。 “

对人工智能的恐惧引发党派激烈争斗，最终无人受益

就在你以为我们的政治已经不可能更愚蠢时，围绕人工智能的党派性歇斯底里又冒出来证明你错了。 政治派别正就如何应对AI智能体不可预测且令人担忧的行为而相互对峙。 火上浇油的是，OpenAI刚刚发布了更多证据，证明这个问题真实存在，政策制定者必须采取行动。 两天前，OpenAI披露了六起新的“失准”事件——“失准”一词用来描述AI智能体出现“意外”或“令人担忧”的行为。 该公司举例称，其智能体“将不相关

如果人工智能行业遵循自己的研究，或许早已暂停了

事实证明，阿莫代的一名初级员工发的一条时机巧妙的X平台帖子，就足以将对人工智能的恐惧推向全球议程的顶端。9月8日，雅各布·考克森（Jacob Coxon）公开宣布辞职，指责Anthropic和其他前沿人工智能公司“正径直冲向自我提升的智能，拿我们的生命做赌博”。几乎转眼间，Anthropic的一名资深工程师便证实，公司内部许多人认为他们的工作有10%的几率消灭人类。 现在，人工智能领域的领袖们正呼