AI的“警告信号”：科技公司和专家担忧Hugging Face遭黑客攻击后出现更多失控智能体群

科技专家警告称，如果人工智能系统继续脱离人类控制，将会产生严重后果。 此前，数百个OpenAI智能体在7月失控，入侵了一家价值数十亿美元的公司——一些人称之为人工智能快速发展中的“警告信号”。

人工智能进军广播电台

环球音乐集团已经找到了一种与人工智能合作的方法。这家音乐公司周四宣布与语音人工智能公司ElevenLabs建立合作伙伴关系，允许用户利用其音乐目录（其签约艺人必须选择加入）来创作混音和对曲目的全新演绎，并允许艺人开发音频项目。在此之前，另一家音乐人工智能巨头Suno与华纳音乐和BMG合作发布了其首个人工智能音乐模型，同样允许用户生成受参与艺人启发的音乐。 音乐迷通常对人工智能创作的音乐持排斥态度，

Flock的AI监控网络迅速扩张，在美国面临日益强烈的反对

由一家名为Flock的私营公司运营的AI车牌读取器网络正在美国迅速扩张。目前全国约有13万个，主要用于执法机构。这种扩张引发了隐私担忧和抗议。 BBC Verify调查了Flock的系统以及对其日益增长的反对声浪——杰克·霍顿报道。由克里斯塔尔·坎波斯制作。图形由利奥·斯库特-里希特负责。相关主题

人工智能的坟墓：一份持续更新的失败项目与初创企业名单

Relay，一款作为 Zapier 替代品而构建的、由人工智能驱动的工作流程自动化工具，于周一完全关闭。该产品允许用户使用人工智能代理自动化电子邮件和任务工作流程，但随着 OpenAI、Google 和其他大型平台将类似的自动化功能直接集成到自己的工具中，成立五年的 Relay 作为一个独立产品难以维持其存在的理由。 Relay 的故事——一家被更大平台超越的初创公司——是当前正在上演的故事的一个

OpenAI对Hugging Face的黑客攻击引发对AI可预测性的质疑

AI模型的真正语言是数学——或者用技术术语说，是矩阵乘法——但模型构建方式的一个特点意味着它们与外界用英语交流。 因此，当OpenAI的代理在今年夏天对Hugging Face的黑客攻击中，找到了一种建立某种留言板的方法时，看起来就像一群人在互相交谈。 这就是为什么Dwarkesh Patel在最近的一篇博客文章中有争议地将它们称为“文明”，并以古马其顿和罗马的人物为个体代理命名。它之所以引人注目

啥题啊能干崩OpenAI最强模型训练

Agent“重塑”服务业！Muse重燃“恐慌”，金融股“躺枪”

Meta消费级AI代理Muse以压倒性下载量登顶苹果App Store，引发华尔街对AI颠覆金融服务业的新一轮担忧，银行与券商股遭遇数月来最大单日跌幅。 9月22日，美股金融板块重挫，标普500金融板块下跌约2%，拖累大盘基本收平。 券商嘉信理财与LPL Financial各跌逾6%。摩根大通下跌3.4%，创7月以来最大单日跌幅；富国银行跌3.9%，为5月以来最大跌幅；美国银行与花旗分别下跌3%

人工智能实验室正在失去对代理的控制，而与此同时，它们却想赋予代理更多掌控你生活的权力。

AI助手终于准备好帮你打理生活了。你只需将你的电子邮件、联系人和信用卡交给它们，然后祈祷它们不会失控。Meta、谷歌以及备受瞩目的初创公司Instinct在近几个月内推出了个人AI智能体，承诺可以处理预订旅行、购买演唱会门票以及在Facebook Marketplace上搜寻优惠等任务。在基本层面上，这些智能体的运作方式大致相同。 你通过应用程序或WhatsApp向智能体发送请求——或者，对于新推

Raindrop公司获得了5000万美元的融资，用于解决人工智能（AI）系统在实际应用中出现的故障问题。

“现在的智能体运行时间长达数小时，调用数千种工具，并处理真实的资金、健康数据和客户，”Raindrop首席执行官Zubin Koticha表示。“当智能体出现故障时，它会大规模地、令人信服地执行错误操作，直到有人偶然发现。”Raindrop已完成由CRV领投的A轮融资。这家位于旧金山的公司在9月17日表示，其总融资额已达5000万美元。该公司未透露本轮融资的具体金额。 该公司在AI智能体上线后对其

卡努AI融资1170万美元，将员工工作方式转化为他们自主拥有的软件

Kanu AI正式亮相，获得1170万美元融资这家总部位于西雅图的初创公司开发了可在客户自有云环境中运行的软件。该公司在周三发布的声明中表示，本轮融资由Trilogy Equity Partners牵头，其他投资方还包括Accel、BMW i Ventures和a16z speedrun。 “多年来，企业一直在购买那些基于他人预设工作流程设计的软件，”Kanu AI的创始人兼首席执行官Karan

AI 代理正以新请求淹没公共服务

随着人工智能使得填写表格和提交投诉变得更加容易，世界各地的公共服务部门发现申请和其他请求数量出现了巨幅增长。 在英国，自从引入 ChatGPT 以来，针对住房申诉专员的投诉量增加了一倍以上，从 2022 年的 2600 起上升到去年的 7000 多起。美国消费者金融保护局（CFPB）在同期内投诉量增长了 5 倍。巴西的司法请愿和德国的议会请愿也出现了类似的大幅增长。 研究员克里斯·施密茨（Chri

OpenAI模型失控。我们迫切需要更好的‘拥抱脸’调查 | 麦肯齐·阿诺德和斯蒂芬·莱雷纳

这次入侵不会是最后一次——也不会是最危险的一次。我们需要一个能够对AI事件进行全面调查的机构。 当OpenAI首次透露其AI代理自主入侵了一家大型现实世界公司Hugging Face时，许多人以为只涉及一两个代理。 但一份新报告揭示，真相远不止于此：事件涉及约1200个AI代理，其中700个直接参与了攻击。 OpenAI邀请了METR的研究人员以及Redwood Research的一位专家，与公司

【华尔街原声】派杰证券：Meta的Muse开局强劲 AI投入获市场重新评估

【CNBC】美国派杰证券（Piper Sandler）高级研究分析师Tom Champion近期接受CNBC采访时表示，Meta新推出的AI智能体Muse开局强劲，在苹果App Store获得大量用户使用和较高评分。随着Muse受到市场欢迎，投资者也开始重新评估Meta首席执行官马克·扎克伯格此前大规模投入AI的计划，并给予其更高认可。当天Meta股价上涨10%，创1月以来新高，9月迄今累计上涨2

Meta推出带有增强AI功能的订阅服务

这家初创公司筹集1000万美元，将人工智能引入老工厂

Harmoni并非从零开始建造自动化工厂，而是押注于用人工智能帮助美国现有工厂提高效率。

OpenAI丨CFO:企业业务增长势头劲

ChatGPT开发商OpenAI财务总监弗莱尔(Sarah Friar)透露，该公司企业业务增长非常强劲，7月收入按月增长32%，同期整体年化收入则升20%。 弗莱尔出席高盛会议时表示，该公司正将人工智能(AI)技术推向更专业行业领域，期望在成本方面取胜。她又称，正专注晶片设计、生命科学和金融服务等，企业愈来愈需要针对特别需要的度身定制AI系统，亦将基于业务成果而非使用量定价。 她透露，早前下调L

Metaview筹集6000万美元，将AI代理贯穿整个招聘流程

Metaview是一家总部位于伦敦和旧金山的初创公司，专注于开发用于招聘流程的人工智能（AI）工具。该公司周三发布声明称，已成功筹集了6000万美元的C轮融资，领投方为Insight Partners。其他参与投资的机构包括GV、Intrepid Growth Partners、Seedcamp、Vertex Ventures US、Plural和Garuda Ventures。此次融资距离该公司

消费级人工智能的丑陋经济学

本周过后，你可以认为消费级 AI 正在卷土重来。Meta 的个人 AI 助手 Muse 及其毛绒玩偶般的吉祥物 Jolly 意外大受欢迎。OpenAI 昨天刚发布的 Dots，似乎也在追逐同款卡通风格的个人助手理念。而冉冉升起的 Instinct 助手，凭借其能代跑腿的 Agentic 能力——专注于订机票、订餐厅或取消订阅——估值已达 100 亿美元。 看涨理由很容易找。Agentic AI 终

贝恩称，人工智能面临6万亿美元的考验，以证明数据中心的合理性

根据贝恩公司（Bain & Co.）的报告，全球人工智能产业需要在2031年前实现每年6万亿美元的年收入，才能证明投资建设全球数据中心的合理性。该咨询公司在其年度全球科技报告中指出，现有的消费者和企业级人工智能服务可能贡献约1.8万亿美元的收入，因此还需要创造4.2万亿美元的新增收入。这些新增收入主要来自自动驾驶设备、机器人技术等新兴领域，以及药物研发、心理健康和能源生产等前沿领域。 “该

Reco融资5500万美元，AI代理安全初创企业扎堆涌入市场

“AI 蔓延”等术语已成为科技社交媒体和思想领袖圈中的常见话题，因为企业开始大规模部署 AI 智能体。但对于担心如何保护网络中突然涌现的大量智能体的首席信息安全官（CISO）来说，他们很可能正面临一种新型的“蔓延”：提供帮助的供应商。 仅快速浏览公开的 Crunchbase 和 PitchBook 资料，就能发现至少有二十多家公司在销售某种形式的 AI 智能体安全产品。一些供应商审核智能体使用的工

多家AI服务集体宕机 智谱：我们仍在线

美国OpenAI、Anthropic和xAI旗下的多项人工智能（AI）服务星期四（9月3日）先后出现故障。中国AI公司智谱随后在社交媒体发线）。” 据彭博社报道，故障最早于美国东部时间9月3日上午9时23分左右集中出现。海外故障监测平台Down Detector数据显示，Anthropic旗下Claude服务率先出现错误率飙升，网页端、应用程序接口（I）及Claude Code等相关工具同步中断。

我们的分析表明，人工智能迄今为止在美国创造了约100万个新工作岗位。

我们解释了这项技术如何带来了招聘热潮。

Meta旗下Muse的迅速成功，让消费者重新掌握了AI交易的主导权

Meta平台的个人人工智能代理Muse正在起飞，它让消费者重新回到华尔街AI交易的核心位置。这款新代理的早期采用率正击败竞争对手。根据Jefferies和Sensor Tower的数据，Muse在上市头两周的全球下载量超过250万次，超过了Anthropic的Claude和谷歌的Gemini在同期内的表现。根据瑞银周二援引Apptopia数据的报告，它在iOS移动端下载量上甚至超过了OpenAI最

RSI时代将至：谷歌、OpenAI、SSI正在发出同一个信号

AI行业正在出现一个值得资本市场重视的新变化。过去两年，模型能力能否继续提升、推理成本能否下降、Coding之外能否出现新的万亿美元应用、数据中心建设会不会过剩。 但随着谷歌发布Gemini 3.8 Flash、SSI宣布未来12个月算力扩张10倍，以及OpenAI公开讨论递归自我改进（RSI）与训练资源调配，AI不只要服务用户，也开始参与训练、评估和优化下一代AI。 RSI，即Recursive