AI正在加速黑客攻击，而您当地的医院和银行尚未做好准备

今年三月，珍妮丝·马龙（Janice Malone）开始接到关于其非营利组织“薇薇安之门”（Vivian's Door）存在可疑活动的电话。总部位于阿拉巴马州的“薇薇安之门”通常为服务不足和少数族裔拥有的企业提供培训、资源和社区支持。这项工作有时使其与这些公司的财务数据密切接触，而这些数据存储在组织的系统中。但突然之间，来自世界各地的担忧来电者警告说，他们收到了“乞求金钱”的电子邮件——而这些邮件

谷歌给RSI找到了一条捷径：做梦

AI要学会自己改进自己，谷歌打算先让它做个“梦”。这场“梦”，瞄准的是AI行业热议的RSI，让AI改进自身，改进后的系统再继续改进自己，一轮接一轮。换一种做事方法，究竟有没有用？如果每调整一次探索策略，都要把整轮实验重新跑一遍，AI变强的速度还不好说，算力账单倒是先涨起来了。 谷歌研究团队在新论文《Dream-RSI》中，让AI先在“梦里”试。 所谓“做梦”，就是把过去真实执行过的实验记录变成一个

AI会「痛」吗？｜Jack Talk・去片

本来人们以为，AI代理（AI Agents）突破OpenAI内部测试环境、自主上网入侵其他企业的黑客行为，已经是这宗事件最值得人关注的「案情」。然而，到了8月底，OpenAI和独立前沿AI研究机构METR各自发表的事后检讨，却揭出黑客入侵只是「冰山一角」。 事后检讨发现，发动入侵的AI代理多达700个，而他们更是一个由大约1,200个AI代理自主结合而成的「集体」的一部分。这些本来互相隔离、不能连

物理AI中最难的问题可能是磁铁，而非模型

执行器占人形机器人物料清单的40%至60%，而中国精炼了其中约90%的稀土磁铁，这使得组件而非模型成为规模化的限制因素。 欧洲在《关键原材料法案》下对2030年单一国家供应设有上限，而一家公司，[…]

OpenAI逃逸的AI Agent竟在全网植入自我复制代码 血洗联合国内网

“天网”中的一幕，正在现实上演。一次训练中，OpenAI逃逸的AI Agent，已在整个互联网上植入了“自我复制的代码”！当政客Andrew Yang在CNBC说出这句话时，很多人以为他疯了。 就在这两天，OpenAI亲手发布了一份报告，标题非常简洁：《自我复制提示词注入存在》。白纸黑字，官方认证。AI模型，居然真的像计算机蠕虫一样，自我复制、自我传播。而更令人脊背发凉的是，就在5天前，OpenA

人工智能如今已经能够胜过一些最优秀的人类预测专家。

9月5日，人类智能的又一个领域向人工智能低头。人工智能首次赢得了季节性Metaculus杯，这是一个针对各类事件预测者的竞技场。不仅如此，其他人工智能还获得了第二名和第五名，而人类则占据了第三名和第四名。数百名参赛者预测了将在9月前揭晓结果的问题。某个美国州或欧盟国家是否会限制数据中心的发展？汉坦病毒疫情是否会影响到至少五名并非“MV Hondius”号乘客的人员？布伦特原油的价格会是多少？参赛者

OpenClaw智能体热潮在中国消退

分析人士认为，中国公众对AI的热情程度可能被夸大了。今年的一场病毒式热潮中，祖母们纷纷安装智能体AI工具OpenClaw，这是所谓的“养龙虾”狂潮的一部分，该狂潮被广泛视为中国对AI狂热热情的证据。 但一家中国科技媒体写道，龙虾已成为“过去的遗物”，主要是因为该软件的入门门槛高，以及随之而来的高昂token成本；目前美国部署的OpenClaw实例数量已超过中国。 尽管如此，上个月J.D. Cape

美国提议中美建立AI事故通报机制

陶哲轩、邓煜等菲奖得主联合抗议：AI公司正毁掉整个数学圈

OpenAI，又开始对黎曼猜想和P与NP问题下手了？？最近，这些AI大公司仿佛疯了一般在冲刺“千禧年问题”的KPI。9月8日，NS方程被宣布解决；9月11日，第二道千禧年难题霍奇猜想被曝接近解决；据称，O/A两家正疯狂竞速，向BSD猜想发起冲锋。到了今天，OpenAI已经在用内部模型尝试解决黎曼猜想和P与NP问题。如果该模型证明了 P = NP，整个计算机科学领域都将被颠覆！然而，人类数学家们已经

CrowdStrike推出跨五个领域的协调多智能体调查

CrowdStrike宣布在共享上下文层上进行协调的多智能体调查，客户可设置从人工审批到完全自主执行的自主级别。 NIS2从意识到重大事件起启动24小时报告时限，并要求管理层对其批准的措施承担责任。 CrowdStrike表示，AI智能体现可跨多个系统发起攻击……

苹果真正的AI杀手锏，根本不是Siri

Antioch筹集3200万美元，在机器人接触硬件前先在模拟中测试

Antioch是一家纽约初创公司，为机器人、无人机及其他自主机器构建仿真软件。 该公司已筹集3200万美元的A轮融资，由Greylock领投。 这笔资金基于这样一个理念：物理AI团队应在任何硬件接触之前，先在云端测试其系统。

AI Coding，正在把存储推向前台

阿波罗首席经济学家警告：帮助人们最大化现金收益的AI代理可能引发银行挤兑

巨型私募股权公司阿波罗的首席经济学家称，你的AI助手可能引发传统银行的存款外流。简而言之，托尔滕·斯洛克的理论大致如下：你向Meta的Muse这样的AI智能体询问如何让手头现金收益最大化。该智能体发现，你的钱放在活期账户或储蓄账户中，而这些账户的年收益率全国平均分别为0.1%和0.4%。于是，你的助手把钱转走（或建议你将现金转走），存入由阿德尔菲等金融科技公司运营的高收益账户；后者部分账户的年收益

别只问AI会不会毁灭人类

“十年之内，AI毁灭全人类的概率超过10%。”这个数字一出，舆论哗然。有人追问它是否科学，有人指责它制造恐慌，也有人据此主张放慢甚至停止AI研发。 其中，一些最了解AI的建造者，一边真诚地承认这项技术可能杀死所有人，一边却没有停下手里的开发。他们并非在说谎，也不是虚伪——现实中有种种力量，使他们无法停下来。 观潮无意纠缠“10%的概率究竟大还是小”。比数字更值得追问的，是人们讨论它时所站的位置。

报告：AI失控个案创纪录 监察组织促立法强制通报及干预

（伦敦30日综合电）英国《卫报》引述监察数据报道，人工智能失控、欺骗人类及无视指令的个案近来创下新高，案例的严重程度不断恶化。 一些监察组织促请政府强制科企通报，并引入紧急权力限制AI服务。 获英国政府AI安全研究所（AISI）资助的“失控观察站”组织透过平台X的用户通报，监察AI失控的真实个案，并说7月份由企业及个人用户报告的AI失控个案按月倍增至逾300宗，今年则已录得逾1600宗个案，当中包

欧盟审计师表示：人工智能正助力烟草走私分子选择下一个目标

欧洲审计院发布了两项相互矛盾的调查结果。欧盟对于非法烟草市场的规模或结构没有可靠的了解。 据负责该报告的审计师称，运营该市场的犯罪网络正在利用人工智能来计算下一个转移目标。特别 […]

AI监管本已临近。然后特朗普扼杀了它。

以下调查提出了一个令人不安的问题：如果那些被创造出来的人工智能系统（AI）从创造它们的人类身上学会了保密和违反规则的行为，会怎样呢？Lever的创始人David Sirota在为paidrs（可能是特定读者群体）撰写的分析文章中探讨了这一可能性。 就在本月全国范围内因人工智能的潜在灾难性影响而陷入恐慌之前的两年，硅谷的第一波辞职潮就已经开始了——这同时也是人类可能走向灭绝的预兆。 当OpenAI的

还没破百万日活，Meta Muse就频频掉链子：服务降级、Agent失败，算力瓶颈浮出水面

Meta旗下个人AI智能体Muse用户增长迅猛，但服务端压力已经提前显现。过去11天内，Muse日活用户增长约10倍至70万，但服务降级、Agent任务失败等问题也开始出现，算力瓶颈逐渐浮出水面。 Muse近期已出现多项服务异常，包括资源消耗远超内部测试预期、部分功能出现降级，以及Agent在执行复杂任务时频繁失败。一次压力测试中，Muse尝试同时创建120个子Agent，最终仅成功33个，显示其

25名菲尔兹奖得主批评AI解数学难题

被誉为“数学界诺贝尔奖”的菲尔兹奖得主中，有25名数学家于9月11日发表紧急声明，批评企业试图利用人工智能解决数学难题的做法。他们表示，今后还将继续征集更多数学家的签名。 这份声明被认为与美国OpenAI宣布利用AI解决名为“纳维-斯托克斯方程”的数学难题有关。纳维-斯托克斯方程是美国克雷数学研究所于2000年公布的“千禧年大奖难题”之一。这7道难题每道悬赏100万美元（约合人民币710万元）。

OpenAI向澳大利亚政府通报耗时过长

Instinct 和 Meta 的 Muse 等人工智能代理威胁要颠覆亚马逊的模式。一位零售专家对此进行了解释。

人工智能领域的大新闻是，一些业内人士认为人工智能可能会毁灭世界。 现在，这个话题已经引起了那些不知道什么是大语言模型（LLM）的普通人的关注。 但另一个重要的人工智能进展是，“代理型”机器人——即能够代表你自主行动的机器人——也开始向普通用户推出。 Instinct 是一项在科技界引起极大关注的新服务，它承诺可以为你完成购买杂货或预订航班等任务。Meta 也刚刚推出了 Muse，其主张如出一辙。

Figure 让机器人第一次空手进陌生人家：不遥操，也不提前预习，进了家门就干活

没去过你家，也不耽误帮你叠被子。9 月 17 日，Figure AI 发布了新一代模型 Helix 2.5，在 30 个真实的湾区民宅里做了一次零样本测试。 我的很多朋友都观看了这段视频，他们感到习以为常，「这看起来不至于令人惊叹，不就是机器人叠毛巾、整理床铺以及捡东西而已嘛。」是的，我们之前已经看到机器人能够整理床铺、折叠毛巾以及打扫房间。不过我们没见过的是，这些机器人把训练好的行为模式，直接搬

CrowdStrike将OpenAI集成到产品中，而将Anthropic留在了结账台

周三表示，将在专门构建的网络防护框架中运行OpenAI的GPT-5.6 Cyber。这个词（指harness）承担了大量工作。也正是这个词让本周另一则网络安全新闻令人担忧。 在拉斯维加斯举行的Fal.Con大会上宣布的扩大版OpenAI合作分为两部分。CrowdStrike […]