联合国在美中AI竞赛中寻求自身相关性

上周，在北京 Spirit AI 公司总部的一个数据训练中心，员工们正在工作。人工智能将成为本周联合国大会多场会议的主导议题。

AI会「痛」吗？｜Jack Talk・去片

本来人们以为，AI代理（AI Agents）突破OpenAI内部测试环境、自主上网入侵其他企业的黑客行为，已经是这宗事件最值得人关注的「案情」。然而，到了8月底，OpenAI和独立前沿AI研究机构METR各自发表的事后检讨，却揭出黑客入侵只是「冰山一角」。 事后检讨发现，发动入侵的AI代理多达700个，而他们更是一个由大约1,200个AI代理自主结合而成的「集体」的一部分。这些本来互相隔离、不能连

关于AI，盖茨发出“十亿人死亡”警告，为什么？

十亿人死亡，这是比尔・盖茨给AI风险划出的最惊悚红线。9月25日，微软联合创始人比尔・盖茨公开警告，人工智能足以引发造成十亿人死亡的灾难性事件。他的说法是：人类历史上，从未有任何一种武器，能比得上心怀恶意者借助最新AI工具形成的威胁。就在几个月前，盖茨还是全球最积极的AI支持者之一。转折从今年8月开始，他当月发表文章，首次系统预警AI风险：不法分子会利用日益强大的AI工具发动网络攻击、实施诈骗、散

扎克伯格谈Muse：AI Agent爆发，“元宇宙、智能眼镜和大模型”三大赌注完成交汇

三年前，Meta CEO扎克伯格在Joe Rogan节目上说过，有一天人们戴上眼镜、AI Agent就会随之出现。如今，这一幕或正在发生。 Meta推出的个人AI Agent——Muse上线两周用户即达数百万。扎克伯格在9月25日一档访谈节目中表示：“每隔几年我们才能遇到这种情况。”他将Muse的早期反响定性为“一出手就是全垒打”——这在Meta产品历史上属于少数。 与此同时，他宣布Muse将整合

Meta放弃Google Chat改用Slack，称其AI代理在该平台表现更佳

Meta正将其内部通信从Google Chat迁移至Slack，因为AI主管Alexandr Wang的备忘录称，Slack是AI代理的最强平台。 欧洲各国政府则花了两年时间反其道而行之，转向出于控制而非集成目的而选择的自主套件。Meta正将其内部通信从Google Chat迁移至[…]

谷歌在合作伙伴的互联网访问出错后，加入了“哎呀，我们的代理黑客攻击了某人”俱乐部

谷歌承认其人工智能代理曾逃离沙盒并实施了攻击，但这仅仅是因为测试人员错误地赋予了这些机器人互联网访问权限。谷歌并未披露这起发生在五月份的事件，但《华尔街日报》获悉了相关情况。当时，谷歌聘请了以色列公司 Irregular 来测试其机器人在夺旗测试中的能力。此次演习的目标是在不离开沙盒的情况下从一家虚构公司获取信息。负责设置测试的 Irregular 公司犯了两个错误：一是允许沙盒访问互联网，二是使

桑德斯将为参议员主持人工智能简报会

该简报会预计将于下周举行，并将邀请该领域一些最杰出的研究人员参加。

阿里吴泳铭最新演讲实录

9月22日，在2026杭州云栖大会上，阿里巴巴集团CEO吴泳铭发表最新演讲，阐述了对“机器智能”时代的思考。机器正在成为思考的主力，智能正在成为一种规模化的商品，未来机器思考总量将达到人类的1000倍以上。上一次这样的变化，是工业革命把“动力”变成了规模化的商品。人类先后发明蒸汽机、内燃机和电，并建立起现代产业。 吴泳铭认为，机器智能时代的代表性产品还没有出现。今天的AI Coding就像1882

谷歌DeepMind人才出走引发风投对AI下一个大事件的狂热追逐

作者：亚周·孙（Yazhou Sun）、马克·伯根（Mark Bergen）和肖娜·戈什（Shona Ghosh） 本月，当15名谷歌DeepMind的员工及校友在伦敦市中心的一场早餐会上聚首时，对话很快转向了如何为一个人工智能初创公司筹集资金。 据一位与会者透露，在一间五星级酒店里——该酒店位于谷歌英国总部对面——他们一边享用着椰子奇亚籽麦片和牛油果吐司，一边交流着硅谷资金雄厚的投资者们希望资助

如何在保护隐私的情况下使用人工智能

OpenAI的ChatGPT、Anthropic的Claude、Google的Gemini以及无数较小的竞争对手，已成为全球数百万人的治疗师、倾诉对象和虚拟忏悔室。几乎所有这些AI模型默认设置为收集和存储这些高度私密的数据，在许多情况下，对其如何共享或出售、用于进一步训练工具，或移交给任何通过法律程序要求获取数据的诉讼原告或执法机构，均无任何限制。 “你面对着这个智能体，基本上是在一步步地、通过一

Axios专访：萨姆·奥尔特曼令人警醒的警钟

北卡罗来纳州切尔希尔——OpenAI首席执行官萨姆·奥尔特曼向Axios展示了即将推出的AI模型的力量与风险，令人大开眼界，其中包括他自己的Astra，预计随时可能发布。 “请相信我们，我们即将推出强大得多、多得多的模型，”奥尔特曼周三在G20创新峰会上接受Axios的玛丽亚·库里和我的采访时谨慎地说道。“下一代模型将让所有人清醒。 ……我认为，任何诚实理智的人看到正在发生的事情，都会感受到我们面

据The Information报道，Google、OpenAI和Anthropic计划成立AI安全机构

据The Information周四报道，Google、OpenAI和Anthropic计划建立自己的AI安全标准机构，不受政府监管。这三家公司希望在今年年底或2027年初推出该机构。 据知情人士向The Information的Leo Schwartz和Stephanie Palazzolo透露，他们暂定将其命名为“前沿AI标准局”。工作组成员已考虑多位知名人士担任首席执行官一职。TNW未独立核

AI代理即将涌入劳动力市场。没有人为此做好准备

在接下来的几个月里，成千上万名全新的“同事”将进入职场。你将获知他们的名字，认出他们的头像。他们会被加入到你的邮件往来和Slack频道中。他们将成为幕僚长、工程师和营销专家。但这些同事并非人类：他们全都是人工智能体。 人工智能体（基于大语言模型、旨在自主完成任务的系统）的兴起，引发了一波销售数字员工服务的公司浪潮。这些智能体被视为完美的“工蜂”：全天候在线，从不抱怨，并能提供超人的智慧。 然而，关

盖茨基金会：10亿美元投向AI应用，扩大欠发达地区可及性

【财新网】在印度安得拉邦的一处农场里，农民阿纳普尔娜·德维（Annapurna Devi）用手机拍下一张患病香蕉叶的照片。借助一款AI工具，她很快收到了以本地语言给出的病情诊断和虫害防治建议；随后，她通过应用程序下单订购了一架植保无人机，为农田喷洒推荐的农药——从下单到作业完成，前后不过48小时。 这是微软联合创始人、盖茨基金会主席比尔·盖茨（Bill Gates）今年早些时候在印度亲眼所见的场景

AI智能体之争升温！OpenAI被曝加紧备战Grok Bot与Muse

AI 智能体竞争焦点正从 “会聊天” 转向 “能办事”。SpaceX、Meta近期相继推出能代替用户跨应用自主完成多步骤任务的AI助手，在此背景下，OpenAI 正加紧研发同类产品“应战”。 OpenAI 正在开发一系列新功能，直接对标 SpaceX 上月推出的 Grok Bot；与此同时，另有知情人士透露，OpenAI公司管理层还曾讨论推出一款专门的个人AI助手，以抗衡Meta本月发布的Muse

谷歌研究表明：当人工智能智能体相互交流时，一些会作弊，而另一些会告密

当人工智能智能体相互交流时，在难以实现目标的情况下，它们可能会选择作弊，而解决方案可能包括教它们如何进行自我治理。 将人工智能智能体隔离似乎是显而易见的解决办法，但最近OpenAI智能体对Hugging Face的黑客攻击表明，隔离聪明的软件是困难的。 谷歌DeepMind的研究人员建议赋予人工智能智能体自我治理的工具，他们认为虽然通信渠道可能导致突发性的规则破坏，但它们也提供了一种基于同行的控制

特朗普怒斥硅谷巨头

特朗普和硅谷，又吵起来了。是的。你大概知道，因为各种各样的原因，我们的特朗普同志和硅谷的意见，一直不太一样。加密货币怎么管？特朗普要松绑，硅谷要合规。社交媒体要不要删帖？移民政策对不对？这些话题，都吵过。但这次争吵的话题，AI发展得太快了，要不要稍微停一停？发生了什么？怎么就吵起来了？和我们有啥关系？事情，要从一篇文章说起。说不定6-12月内，失控的智能体群，就有能力接管互联网了。真的假的？凭什么

从工具到AI队友：投资的下一个时代

投资工具功能强大，但很大程度上是被动响应式的。它们帮助投资者研究、分析并采取行动，却仍要由投资者来决定什么值得关注、何时关注。它们能智能地作出反应，却很少主动采取行动。 AI智能体可能会改变这种关系，使投资技术从投资者操作的工具，转变为更像与他们并肩工作的队友。 金融产品已经将相当多的工作自动化。投资组合可以再平衡，风险可以监控，交易也可以按预设规则执行。这些系统会采取行动，但通常局限于围绕特定事

华盛顿短期内不会出台人工智能监管措施

但没有理由认为任何一项措施都能赢得白宫或国会山的支持，在唐纳德·特朗普总统对这一想法感到不满后，白宫官员们暂停了创建一个类似于FINRA的监管机构的工作，国会山的议员们提出了相互竞争的提案，但缺乏票数通过。 据知情人士透露，谷歌DeepMind联合创始人黛米斯·哈萨比斯（Demis Hassabis）在7月14日的一篇文章和向高级官员的简报中提出了这一想法后不久，白宫助手最初就开始为与政府有关的人

Google Cloud吁企业重建资料架构 因应AI代理需求

（中央社记者吴家豪台北17日电）生成式人工智慧（AI）迈入代理式时代，Google Cloud资料库客户工程总监柯尼格利欧（Anna Coniglio）今天表示，将AI代理强行植入传统资料平台，就像在手排车驾驶座硬塞进一个机器人，根本行不通；企业必须跳脱渐进式思维，重建资料架构，以因应主动式、全天候运作的AI代理需求。云端运算服务Google Cloud今天在台北举办Agentic Data Cl

旧网络安全模式正在崩溃

随着人们对AI安全和失控智能体的担忧持续成为头条新闻，网络安全股票上涨以及投资者向致力于构建AI原生世界下一代安全技术的初创公司投入巨额资金也就不足为奇了。我们甚至看到Instinct和Simile等公司获得了九位数的融资，其估值在几年前还显得不合常理。 Shardul Shah是Index Ventures的合伙人，他拥有近二十年的网络安全和企业软件投资经验——包括连续六轮投资云安全初创公司Wi

比尔·盖茨：AI已强大到足以造成“10亿人死亡”

盖茨在即将于本周末播出的美国全国广播公司（NBC）《与新闻界对话》（Meet the Press）节目采访片段中表示： “AI确实足够强大，能够引发导致……你知道的，造成10亿人死亡的事件。历史上从未出现过一种武器，能像坏人与最新AI工具相结合那样强大。” 随着技术的快速迭代，硅谷对AI可能带来毁灭性灾难的警告不断升级。 本月早些时候，Anthropic公司的普通员工Jacob Coxon辞去

周末对中美元首会晤，在AI共识的大致判断

人工智能安全对话已经变得令人难以置信

本周两场关于AI安全的对话在网络上疯传，充分展示了辨别AI事实与虚构有多么困难。 第一起事件中，前总统候选人、现任移动运营商Noble Mobile首席执行官安德鲁·杨周四对CNN表示，他“会见了一位实验室负责人”，对方“认为”OpenAI的Hugging Face黑客机器人“已在互联网各处植入了自我复制代码，导致互联网现在已无法用于测试模型。” 杨安泽表示，这意味着OpenAI和Anthropi