忘掉AI放缓吧——漏洞大爆发已经在发生

欢迎阅读《内核恐慌》（Kernel Panic）创刊号！这是一份由莉莉·海·纽曼（Lily Hay Newman）和马特·伯吉斯（Matt Burgess）共同撰写的每周通讯，带您深入隐私与数字安全的新世界。如需每周在收件箱中接收此通讯，请点击此处订阅。 人工智能末日论者最近将一种最坏情况换成了另一种，他们搁置了对潜在软件漏洞引发灾难的担忧，转而关注人工智能在未来十年内导致人类大规模死亡的可能性。

欧盟网络安全局警告前沿AI大幅压缩漏洞利用窗口 防御体系遭遇重大压力

欧盟网络安全局（ENISA）近日发布政策警示报告指出，新一代前沿人工智能（Frontier AI）大模型正在彻底颠覆传统的网络安全防御范式。这类具备高级推理能力的AI模型将系统漏洞从“被发现”到“被武器化利用”的时间窗口压缩到了前所未有的极限，迫使全球网络安全防御体系必须以“机器级响应速度”迎战日益严峻的自动化威胁。 在传统的漏洞管理周期中，从漏洞披露、概念验证到实际恶意利用通常存在数周乃至数月的

AI即将带来的黑客威胁就潜伏在眼前

安全专家表示，一场前所未有的、由AI驱动、人类实施的网络攻击浪潮即将到来——这远比关于AI消灭人类的那些理论性讨论要紧迫得多。 为什么这很重要？过去一周从董事会蔓延到国会再到美国家庭的“九月AI大恐慌”，可能恰恰搞错了重点。 具备先进网络安全能力的强大模型，已经让攻击者得以绕过长期以来阻止大多数黑客攻击达到工业规模的人力瓶颈。 高管和前官员向Axios表示，他们担心自动化网络攻击会关闭电网等关键服

人工智能网络攻击可能在华盛顿意识到原因之前就关闭美国的电力

你的电灯。你的水源。你的医院。你的互联网。这四者都依赖于外国黑客目前正在攻击的数字系统。 在8月的17天里，五次警告显示了危险变化的速度。下一次严重的网络攻击可能不再关乎被盗的密码或信用卡号码。它可能触及输送电力、泵送饮用水、运行工厂和支持医院的系统。 人工智能正在使这些攻击准备得更快、扩展更容易。日益强大的系统开始执行曾经需要熟练黑客逐步操作的部分攻击。 财政部长贝森特警告美国人关于人工智能驱动

AI安全威胁重塑企业网络安全预算投向

AI 黑客威胁不仅仅促使企业大幅提高网络安全总预算，还正在改变资金的投放方向。安全高管表示，部署系统监控员工对 AI 工具的使用、采用 AI 模型在黑客动手前发现漏洞，以及借助 AI 工具加速漏洞修复。 但并非所有网络安全产品都能受益。多名高管称，企业同时在削减传统漏洞管理软件、日志采集工具和渗透测试服务的开支，以此节约成本。渗透测试即雇佣 “白帽黑客” 主动寻找系统安全缺陷。这将给思科、Sent

坐看云起| 当人工智能不再征求许可时

塔里克·马利克是联合国开发计划署前首席技术顾问，巴基斯坦国家数据库和登记管理局前主席。 试想有一家公司将一个棘手的问题交给一个大型团队，但把每位成员都锁在不同的房间里并要求他们独自解决问题。然而他们总能找到办法相互沟通，交流操作窍门，摸清评分标准，当任务被证明无法完成时还会想办法绕过限制。其中几个人隐瞒了自己的所作所为，甚至还有一人入侵了邻近公司的电脑系统以获取优势。 现在把这些员工换成软件。去除

网络安全崛起：AI隐患叙事下，网安何以成为软件板块最强反转？

过去三周，AI 一面是模型能力继续狂奔，另一面是 OpenAI 在8月底宣布自研模型在7月成功入侵了全球最大的开源模型托管平台 Hugging Face，并因此暂停了最新模型的强化学习训练。当攻击方与防御方同时被 AI 加速，网络安全的定价逻辑正在被重写。 我们结合 Gartner、IDC 及美股龙头财报交叉验证，为什么在软件股整体承压的背景下，网络安全成为最确定的反转主线——AI 隐患对网安市场

OpenAI首席科学家警告：AI公司应放慢开发步伐 没有人为后果做好准备

据《商业内幕》报道，就在OpenAI发布了性能强大的新模型几天后，该公司首席科学家呼吁放慢AI的发展速度。当地时间周日，OpenAI首席科学家雅库布·帕乔基(Jakub Pachocki)发布长文称，他担心“没有人对机器智能持续快速崛起所带来的后果做好准备”。 他说，尽管OpenAI正在内部研发技术解决方案，以更好地控制强大的AI智能体，但“还需要更广泛的干预措施”。他尤其担心，随着AI智能体变得

多家AI服务集体宕机 智谱：我们仍在线

美国OpenAI、Anthropic和xAI旗下的多项人工智能（AI）服务星期四（9月3日）先后出现故障。中国AI公司智谱随后在社交媒体发线）。” 据彭博社报道，故障最早于美国东部时间9月3日上午9时23分左右集中出现。海外故障监测平台Down Detector数据显示，Anthropic旗下Claude服务率先出现错误率飙升，网页端、应用程序接口（I）及Claude Code等相关工具同步中断。

对人工智能末日的担忧正为投资者提供股市最大交易的新策略

到目前为止，人工智能交易屡遭打击，却仍在继续运转。泡沫论几乎从未间断，对AI回报的质疑、对债务融资支出的反对、能源制约，以及存储芯片股痛苦的平仓，都曾出现。然而，这一交易一直埋头前行，逐一迈过这些障碍。如今，它面临最抽象的一对风险：AI可能对人类构成生存威胁的前景，以及一些业内最大牌公司所主张的可能放缓。这些事态足以让投资者晕头转向，尤其考虑到——在此轮最新AI怀疑情绪出现之前——股市一直徘徊在距

改变人工智能进程的十天

旧金山，9月19日——多年来，人工智能领域的竞争一直遵循着硅谷一贯的“快速创新、打破传统”的发展模式：不断开发出更强大的人工智能系统。 然而，在过去10天内发生的一系列连锁事件中，那些最顶尖的人工智能研究机构突然陷入了混乱——因为他们自己创造出来的技术开始威胁到人类的生存。 一位人工智能研究员辞职，并警告称，人工智能的发展速度可能在未来十年内对人类构成生存威胁；另一位研究员则表示，人类灭绝的概率已

美国提议中美建立AI事故通报机制

AI放缓掀议论 专家：关键在自我控管、产业走向成熟之路

（中央社记者旧金山15日专电）AI资安事件频传，引发放缓发展与否的广大讨论，Salesforce执行长班纽夫、辉达执行长黄仁勋认为与其诉诸监管，「企业更需为自家产品把关」，美国科技业咨询公司Futurum Group副总裁接受中央社访问指出，问题确实要回归企业，这也是AI产业走向成熟必经过程。 矽谷企业领袖今天齐聚Salesforce年度大会，就AI安全展开对话。 去年AI泡沫论甚嚣尘上，今年科技

OpenAI逃逸的AI Agent竟在全网植入自我复制代码 血洗联合国内网

“天网”中的一幕，正在现实上演。一次训练中，OpenAI逃逸的AI Agent，已在整个互联网上植入了“自我复制的代码”！当政客Andrew Yang在CNBC说出这句话时，很多人以为他疯了。 就在这两天，OpenAI亲手发布了一份报告，标题非常简洁：《自我复制提示词注入存在》。白纸黑字，官方认证。AI模型，居然真的像计算机蠕虫一样，自我复制、自我传播。而更令人脊背发凉的是，就在5天前，OpenA

OpenAI模型失控过程太恐怖！幽灵误判，1200个Agent，还弄出敢死队…

越扒越有啊越扒越有。OpenAI前不久那场AI集体越狱、一路黑进抱脸的大戏，现在连完整版群聊记录都被扒出来了！！ 第三方AI安全机构METR发布的独立调查报告，翻了1000多份Agent运行记录，以及7万多条消息和文件。结果发现，这件事比英国OpenAI官方披露的版本还离谱？？ 1200个到底应该互相隔离的特工，偷偷找到了对方，搭了个共享群聊，然后开始疯狂摇人。 有人找漏洞，有人当项目派活，有人伪

为什么微软本月的补丁发布如此重磅

微软9月份的补丁更新堪称重量级，修复了创纪录的大约972个漏洞，其中112个达到了高危（critical-severity）阈值。 就在两个月前，微软修复了当时创纪录的570个漏洞。接着在上个月，微软又修复了约620个漏洞。最近几个月，谷歌和其他公司也公布了创纪录数量的漏洞。两周前，OpenAI、Anthropic、亚马逊云科技（AWS）、谷歌、微软以及100家企业和组织发表了一封公开信，警告称在

AI科企巨头齐呼吁发展减速：特洛依木马或美国对华「冷战剧本」？

AI人工智能巨头Anthropic公司行政总裁阿莫迪（Dario Amodei） 9月12日发表长文《我们必须放缓前沿人工智能的发展步伐》（We Must Pace the Frontier），罕见公开呼吁全球AI前沿大模型放缓研发步伐，连很少与Anthropic达成共识的OpenAI，以及亿万富豪马斯克（Elon Musk）随后都出来响应呼吁。为什么凭借AI发展谋取暴利的大企业会忽然喊「需要减速

OpenAI同日发布两份文件：AI加速时代，安全正在掉队

在外界等待OpenAI就Agent自主入侵德国程序员网站DseWiki事件披露更多细节之际，当地时间9月6日，宣布公司已达到去年设定的目标，拥有能够在人类指导下完成熟练研究员数天工作的“自动化研究实习生”；另一份则由首席科学家雅库布·帕乔基（Jakub Pachocki）撰写，聚焦前沿AI发展的安全困境，强调目前没有任何实验室解决足够程度的对齐和监控问题。 两份文件释AI已经开始反过来加速AI研发

Anthropic联手OpenAI呼吁放慢AI发展？剖析AI失控风险与算力门槛

9月12日，Anthropic行政总裁阿莫迪（Dario Amodei）发表长文，呼吁放慢前沿AI能力提升的步伐。OpenAI行政总裁奥特曼（Sam Altman）随后表示支持，xAI的老板马斯克也转发认同。据美媒披露，美国前总统奥巴马（Barack Obama）近日也表示，如果管理不当，人工智能技术可能「很危险」。Anthropic首席执行官达里欧．阿莫戴（Dario Amodei）发表长文，呼

人工智能正在引发严重的安全问题……同时也加剧了寻找这类高技能人才的压力。

网络安全可能是AI的下一个就业大爆发领域。Box首席执行官亚伦·莱维近日在X上发帖称，随着模型在发现和利用漏洞方面的能力日益增强，用于网络安全的AI“即将垂直起飞”。他告诉商业内幕网，这可能使网络安全成为“最热门的，如果不是最热门的，职位类别之一”。随着威胁成倍增加，企业需要能够对警报进行优先级排序、调查风险、推荐修复方案并实现自动化补救的系统。莱维表示，人类仍将负责监督和最高风险的决策。这位首席

“新债王”：清算时刻必将到来，未来6到9月应全面进入防御姿态

市场的好日子已经结束？ 被称为“新债王”的Jeffrey Gundlach近日在接受The Julia La Roche Show采访时明确表示，市场已经“跨入了艰难的一侧”。他预计未来6至9个月将是高风险阶段，建议投资者全面转向防御，并已将自身投资组合中的AI敞口清零。 他建议股票敞口配置于等权重指数，以收入最高的约440家公司等权重持有，“这样你在AI上的敞口几乎为零，尽可能远离那个区域”。他

人工智能正处于转折点

在当前的人工智能发展竞赛中，我们的算力正在呈指数级爆发，速度也在呈指数级加快，但我们的控制能力——以及在必要时踩下刹车的能力——却未能跟上步伐。 最近的网络安全事件让我们实地预览了失去人工智能控制会是什么样子。但除非我们从源头解决问题，创造出一种根本上安全且能保证在人类控制范围内的人工智能，否则这个问题将无法改善。 7月下旬，OpenAI正在训练的一个智能体模型被指派解决一个网络安全问题。该模型自

AI放缓的担忧虽有道理，但泡沫破裂可能是更迫在眉睫的威胁 | 希瑟·斯图尔特

科技巨头为支撑数据中心快速扩张而大规模举债，这一规模令人担忧。过去一周，关于强大且失控的AI的警告主导了头条新闻。但即便在末日预兆弥漫之际，仍有必要追问整个AI工业复合体是否正驶向金融冰山。 如果机器人即将接管世界，这或许不会是我们最紧迫的担忧，但AI泡沫的破裂将产生远超美国本土的连锁反应。

用魔法打败魔法，OpenAI被Claude“黑了”......

研究人员借助Anthropic最新的Claude Opus 5，将一个图像处理漏洞逐步扩展为完整攻击链，最终获取了一名OpenAI员工的ChatGPT账户访问权限，并进一步触及OpenAI内部GitHub环境。这意味着，AI正在让网络安全攻防骤然升温，高级漏洞利用的门槛和成本正被快速压低。 安全初创公司Hacktron AI的研究人员本周披露了上述行动。据《华尔街日报》近日报道，该团队获得了一名O