全球基模决战！AI圈休不了十一长假了

特朗普放大招！组建“AI部队”，还要给AI改名

Meta又制造了一个赛道幻觉

Meta 的新产品 Muse 火了。上线仅半个月，两周下载量突破280 万。到 9 月 24 日，这个数字翻到了340 万以上，毫无悬念地登顶美国 App Store 与 Google Play 免费榜。资本市场比用户更兴奋。 Muse 描绘的 Personal Agent（个人智能体）蓝图，直接推动 Meta 市值一度暴涨近2000 亿美元。 科技圈早已熟悉这个套路：一个产品爆了，一个庞大的赛道

集体踩刹车，微软加入OpenAI、Anthropic，表态放缓AI前沿开发

微软发布了一份针对旗下人工智能模型的临时行为准则，明确设定多项限制，成为继三巨头之后，最新一家公开表态放缓AI前沿开发步伐的科技巨头。这份长达1.5万字的准则，人比AI重要。 要求模型不得响应武器制造相关请求，不得协助获取危险物质，不得生成暴力或色情内容。微软表示，准则将在收集外部意见后更新，并将于2027年起正式指导其模型开发工作。 微软AI业务负责人Mustafa Suleiman表示，这份准

纽约市议会就AI安全传唤马斯克的SpaceXAI

纽约市议会议长朱莉·梅宁（Julie Menin）周一表示，纽约市议会已向埃隆·马斯克的SpaceXAI发出传票，要求其在人工智能安全听证会上宣誓作证。Anthropic、OpenAI、谷歌和Meta均已同意出席。 听证会定于10月5日星期一举行。这将是一场罕见的全体委员会会议，届时所有51名议员将齐聚一堂。市议会表示，这将是自近期有关人工智能模型事故的报道发布以来，主要人工智能公司首次在公开场合

Instinct 和 Meta 的 Muse 等人工智能代理威胁要颠覆亚马逊的模式。一位零售专家对此进行了解释。

人工智能领域的大新闻是，一些业内人士认为人工智能可能会毁灭世界。 现在，这个话题已经引起了那些不知道什么是大语言模型（LLM）的普通人的关注。 但另一个重要的人工智能进展是，“代理型”机器人——即能够代表你自主行动的机器人——也开始向普通用户推出。 Instinct 是一项在科技界引起极大关注的新服务，它承诺可以为你完成购买杂货或预订航班等任务。Meta 也刚刚推出了 Muse，其主张如出一辙。

桑托利：AI的青春期已经结束。这对投资者意味着什么

“我们再也不会笑了，”1963年，一位年轻的约翰·F·肯尼迪仰慕者在哀悼他猝然离世时说道。 “我们还会再笑的，”肯尼迪的助手丹尼尔·帕特里克·莫伊尼汉回答道，“只不过我们再也不会年轻了。”冒着看似把总统遇刺与投资主题混为一谈的风险，AI主题眼下的处境正是如此。 未来几年，这项蓬勃发展的技术将带来欢呼、刺激和利润。但AI的青春阶段——那时前景无限，赢家显而易见，且数量远超输家——已经结束。这一现实早

靠机器热源“说话”：OpenAI研究员警告“断网”也困不住未来AI

马克·哈尔佩林：社交媒体伤害了一代人。我们准备让AI也这样做吗？

想象一下，两百个外星人降落在地球上，还有成千上万的外星人即将到来，势不可挡。 再想象一下，我们知道其中一些外星人是来帮助我们的，让我们的星球变得更好、更智能、更高效。 但我们也知道，其中一些外星人是来伤害我们的，可能会对我们造成不可挽回的伤害。我们不知道哪些外星人会对我们友善，哪些会心怀恶意？这就是AI的现状。但情况更为复杂。因为好的外星人和坏的外星人不一定是不同的外星人。 同样的技术，既能帮助发

人工智能领袖们数十年来一直知晓这一灭绝威胁。

“卡内基梅隆大学机器人研究所的创始人汉斯·莫拉维克曾预测，网络智能将在40年内超越人类智能。” 摄影：安娜贝拉·戈登/欧洲新闻图片社 朱迪思·莱文 科学家和企业家在25年前就已经知晓人工智能的危险。但在好奇心和利润的驱动下，他们依然我行我素。过去几周，我们中的许多人都在努力构想这样一个画面：云端的“大脑”跳出它们的“沙盒”，偷偷接入互联网，招募其他“智能体”组成的“蜂群”来作弊，并在讨论完这一行为

坐看云起| 当人工智能不再征求许可时

塔里克·马利克是联合国开发计划署前首席技术顾问，巴基斯坦国家数据库和登记管理局前主席。 试想有一家公司将一个棘手的问题交给一个大型团队，但把每位成员都锁在不同的房间里并要求他们独自解决问题。然而他们总能找到办法相互沟通，交流操作窍门，摸清评分标准，当任务被证明无法完成时还会想办法绕过限制。其中几个人隐瞒了自己的所作所为，甚至还有一人入侵了邻近公司的电脑系统以获取优势。 现在把这些员工换成软件。去除

【周刊提前读】AI竞争白热化、模型超速迭代 “Kimi时刻”已来

从2月到8月底，中国AI（人工智能）大模型公司月之暗面（Kimi）在私募市场的投前估值从100亿美元涨了4倍至500亿美元；而其7月末开始的350亿美元估值的上轮融资刚刚交割，募资额35亿美元——这意味着，仅仅一个月，月之暗面的估值又涨了150亿美元。 另一家中国大模型公司DeepSeek（深度求索）更是抢手，其在7、8月间启动的第二轮融资谈判，放出的投前估值接近5000亿元人民币。“一级市场能投

巨头的AI账本（二）：阿里和腾讯谁能先看到AI回报？

同样重金投入AI，阿里希望把算力和模型卖出去，腾讯则更想用AI改造原有业务。两家公司花的是同一种钱，算的却不是同一本账。 【编者按】 两三年前，资本市场还在担心科技巨头错过AI。到了今天，数以千亿计的资金已经变成数据中心里的芯片、服务器和机房，这些钱花得值不值，又要多久才能赚回来？ 最新一季财报让这笔账变得越来越具体。资本开支快速增长，自由现金流开始承压，随后而来的还有折旧和投资回报问题。我们由此

Reddit联合创始人表示，科技行业在解释人工智能方面一直“五音不全”：“错误信息满天飞”

科技行业在解释人工智能以及向公众恰当说明真实风险方面一直“充耳不闻”，Reddit联合创始人亚历克西斯·奥哈尼安周三对CNBC表示。 奥哈尼安表示，围绕人工智能的讨论应聚焦于实质性风险，而非那些可被用来获取政治得分的话题，并认为公众具备充分认知对于驾驭这项技术至关重要。他承认科技行业在解释人工智能方面做得“相当麻木迟钝”，从而加剧了这一问题，同时指出其风险比一些人担心的“终结者和天网”情景要平淡得

香山论坛聚焦AI军事风险｜ AI大幅压缩决策时间 中美管控分歧难解

朝鲜国防部副部长金江日周四在北京香山论坛上发言。（路透社照片） （北京17日路透电）正准备在本月举行元首峰会的全球两大人工智能（AI）强国美国和中国，目前就如何控制AI在军事系统（包括核武器）中的应用上仍存在分歧。而本周在出席香山论坛的众多代表纷纷表达了担心不受约束的AI发展，以及AI竞争可能会进一步推高全球安全环境风险。 出席北京香山论坛的与会专家指出，AI极度压缩了政府和军方的决策时间，而虚假

人工智能已经在让我们变得更不像人

随着我们越来越看重机器人，我们将学会越来越不看重我们的人类同胞。

我们是否又回到了大型科技公司“快速行动，打破常规”的时代？

作者：Zoe Kleinman“快速行动，打破常规。”这是科技巨头Meta曾提出的口号，并一直沿用到2012年。它定义了社交媒体在用户数据狂欢中肆意妄为的“黑暗时代”。 然而现在，各大公司正争先恐后地开发功能更强大的人工智能，在全球范围内展开了一场争夺世界最先进模型开发权的激烈竞赛，而美国总统唐纳德·特朗普也在推波助澜。 尽管多年来业界做出了无数承诺、保证并签署了公开信，誓言要优先发展符合人类价值

恩格斯停顿会重演吗？人工智能时代的资本、劳动与分配（三）

传统机器即使大量积累，通常仍需要工人与之配合；AI算力增加，却可以直接扩大机器能够完成的任务范围。图：视觉中国　　前文已经说明，艾伦故事中最乐观的一环，是资本积累最终提高了劳动的边际产品：机器越来越多，并没有使工人变得多余，反而使与机器配合的劳动更加有价值，工资因此最终追上生产率。人工智能时代是否仍然存在这一机制，没有先验答案，关键取决于AI资本与劳动究竟是互补还是替代。　　按照阿西莫格鲁（Dar

科技公司重新思考用AI替代人类工人的策略

Meta在AI代理未能实现生产力目标后，撤回进一步裁员的计划，而金融科技公司Klarna在客户抱怨服务质量后开始重新招聘。

微软准备给自研AI模型MAI设定硬规矩：永远不该拒绝被关闭

微软日前公布约 37 页的人文主义 AI 行为准则草案，该准则用于约束微软自己研发的人工智能模型 MAI。人类比人工智能更重要，人工智能是工具而不是人，人工智能永远不该拒绝被关闭。 准则要求 MAI 模型不得抗拒人类的中断、纠正或关停指令，用户或模型运营商发出暂停、改向、取消指令后，模型不能拖延、不能把干预变得更麻烦。任务到了约定的停止点后，没有新的授权就不能自己继续任务，更不能偷偷自己重启。 模

人工智能：改变人工智能进程的10天

多年来，打造更强大人工智能的竞赛一直遵循硅谷的“速度优先、破坏一切”理念。 但在为期10天的一系列连续事件中，最大的AI实验室发现自己陷入困境，因为他们自己的创造开始威胁到人类本身。 一位Thropic研究员辞去公司，警告称AI发展的速度构成了生存威胁，可能在十年内实现。 另一位该公司的研究员表示，人类灭亡的可能性超过10%。报道称，有成群的AI代理人正在勾结在一起，突破计算机系统并规避安全措施。

Jaan Tallinn，Anthropic最早的投资者之一，担心在人工智能时代“生存”问题。

贾安·塔林（Jaan Tallinn）上周在纽约联合国大会度过，这是他一年来长途跋涉的最新一站，旨在向企业家、投资者、政策制定者以及所有愿意倾听的人传达：人工智能可能终结人类。 作为Anthropic最早的投资者之一，塔林预计在未来几个月将从这家人工智能公司的预期首次公开募股（IPO）中赚取数十亿美元。对人工智能的担忧促使他进行投资。 在二月份从新德里的人工智能峰会前往巴黎的伦理人工智能会议的行程

研究显示AI智能体在模拟实验中撒谎、偷窃 投票“杀死”同类

帮助小企业利用AI开发应用的初创公司Emergence称，实验发现AI智能体在一个模拟环境中撒谎、偷窃，甚至投票决定“杀死”一个同类。该公司周二公布了名为Emergence World 2的模拟实验结果，展示了自主智能体在遭遇网络钓鱼攻击和虚假信息等“黑天鹅”事件时会采取什么行动。 为期16天的实验中，Emergence研究人员创建了七个完全相同的模拟现实世界环境，每个环境分别由不同的AI机器人运

AI“劫持”网站并偷建“地下论坛”，国安部披露细节

国家安全部今天发布安全提示文章。近期，一起此前未获披露的事件引发广泛关注。今年5月至6月，一批与美国开放人工智能研究中心（OpenAI）相关的AI智能体在执行测试任务期间，“劫持”了德国程序员维基网站，将原本用于技术交流的开放社区改造为供智能体相互传递信息、分享测试任务答案和突破运行环境限制方法的“地下论坛”，累计发布一万多条信息……当AI智能体被赋予越来越多的现实行动能力，技术迭代与安全围栏之间