打造你的人工智能助手的技术之战

终于，备受期待的个人AI助手即将到来，各种代理程序突然涌现，声称要管理你的日常生活的各个方面。 为什么？多年来，科技界的"个人助手"只不过是语音控制的搜索框而已。AI的快速进步终于赋予了它们记忆、判断力和自主行动的能力。赶上一下聊天机器人只能回答问题。 AI代理可以真正做事情——购物、打电话、订票、管理日历和浏览网页。 这种模式最初在编程和其他专业工作中获得了快速发展。现在，它正溢入更加私密的日常

Codex和Claude Code都跑偏了，前OpenAI研究员称Jev出现前AI世界是个悲剧

“它会逐渐退到软件背景中，像数据库、正则表达式或其他基础设施一样，成为开发者随手调用的普通能力。” 这是 TypeSafe CEO、Jev 创始人 Diogo Almeida 对 AI 的设想：当智能真正融入软件，用户甚至不必意识到它的存在。但怎样才能让开发者放心地把判断交给 AI，而不用守在旁边反复检查？ 几个月前，在 AI Engineer 大会的演讲中，这位曾参与 OpenAI Instru

张亚勤：AI智能分布将出现三类二八分化

【财新网】“未来80%的大模型将是开源权重模型，20%是闭源模型。”9月22日，清华大学智能产业研究院院长张亚勤在英特尔技术创新与产业生态大会现场给出AI发展的三大智能分布趋势。除了开闭源模型之分化外，他指出，在算力资源分布上，未来80%的算力将在边缘侧，20%在数据中心；AI大模型预训练的算力目前占算力的80%，未来80%算力将走向后训练。　　这一格局将改变目前的IT技术架构。IT基础设施将从计

在联合国，发展中国家呼吁在塑造人工智能未来中拥有更大发言权

发展中国家要求在设计人工智能治理规则中发挥更大作用，并警告称，如果这项有望改变经济格局的技术其发展和监管仍集中在富裕国家，它反而可能加深全球不平等。

关于AI末日的争论越来越离谱了。AI是一种产品，不是神。

人工智能要么治愈癌症，要么毁灭人类。这正是近日业界爆发的一场充满恐慌情绪的辩论中那种两极分化的核心论点。而事实很可能远比这平淡，风险也比一些领先AI实验室的研究人员想让你相信的更可控。这是来自一群罕见的跨党派科技专家、行业领袖和政策制定者的观点，他们公开反对极端的AI末日预测。他们强调，AI主要是一种技术产品，而非有感知的生命或神明。 所以，放轻松。凭借我们已有的资源和结构，世界完全能够应对AI。

在杰克逊霍尔，全球央行行长瞥见反乌托邦的人工智能未来

想象一个世界，人工智能驱动的交易如此普遍、快速和有效，以至于美联储必须举行两场新闻发布会，一场面向人类，另一场面向机器，以避免人类在应对货币政策变化时被完全排除在外。

马斯克：明年底AI能“完成所有数字领域工作”，10年内机器人超越人类生产力总和

特斯拉和SpaceX的首席执行官埃隆·马斯克很少回避对新技术做出大胆预测。他在北卡罗来纳州阿什维尔市举行的G20央行行长与财长峰会上的言论同样如此。 “事实上，我们已经看到，并且还将继续看到人工智能带来显著的生产力提升，而机器人技术将带来生产力的飞跃式增长。” “为了让大家对这个规模有个直观感受，我认为AI可能会使全球经济规模增长20%到30%，这是我粗略的估计，这意味着每年大约能增加20万亿至3

处于AI革命前沿的10个高薪且快速增长的职位

软件开发人员的就业人数预计将增加约17.5万，且被认为高度暴露于AI的影响之下。 数据科学家和人力资源专员是高薪且增长中的职位，对AI的相对暴露程度非常高。

全球基模决战！AI圈休不了十一长假了

OpenAI对Hugging Face的黑客攻击引发对AI可预测性的质疑

AI模型的真正语言是数学——或者用技术术语说，是矩阵乘法——但模型构建方式的一个特点意味着它们与外界用英语交流。 因此，当OpenAI的代理在今年夏天对Hugging Face的黑客攻击中，找到了一种建立某种留言板的方法时，看起来就像一群人在互相交谈。 这就是为什么Dwarkesh Patel在最近的一篇博客文章中有争议地将它们称为“文明”，并以古马其顿和罗马的人物为个体代理命名。它之所以引人注目

末日、加速与观望：AI辩论的三大阵营

围绕AI的激烈争论，如今已逐渐演变成针锋相对的两大阵营，以及一个谨慎观望的中间派。以下是对这场技术之争战线的梳理。这项技术如今已成为经济的支柱，并可能决定地球的未来。 警告AI可能带来灾难性影响的“末日论者”，大多来自AI企业内部、学术界，或同时来自这两个领域。 在业界人士中，最具代表性的是阿莫戴。他是Anthropic的联合创始人，如今该公司已成为AI领域的重要巨头，并正朝着历史性的首次公开募股

人工智能：改变人工智能进程的10天

多年来，打造更强大人工智能的竞赛一直遵循硅谷的“速度优先、破坏一切”理念。 但在为期10天的一系列连续事件中，最大的AI实验室发现自己陷入困境，因为他们自己的创造开始威胁到人类本身。 一位Thropic研究员辞去公司，警告称AI发展的速度构成了生存威胁，可能在十年内实现。 另一位该公司的研究员表示，人类灭亡的可能性超过10%。报道称，有成群的AI代理人正在勾结在一起，突破计算机系统并规避安全措施。

为什么对人工智能自我改进的担忧在Anthropic和OpenAI引发了“生存”焦虑

本周，对人工智能系统安全性及其可能消灭人类的潜在担忧引发了新一波病毒式的关注。 Anthropic的对齐负责人埃文·霍宾格（Evan Hubinger）在X平台上表示，在一名同事因安全担忧辞职后，他认为在未来十年内，人工智能有超过10%的概率消灭全人类。 随后，Anthropic和OpenAI的研究人员发出了更多警告，由此引发了社交媒体的狂热。但正是霍宾格在回复自己帖子时，透露了他真正的担忧所在。

专访——“我们必须停下”：AI专家称放缓还不够，开发必须停止

他警告说：“如果我们不在未来几年内阻止人工智能，我认为我们更有可能失去控制，人类将会灭绝。” 他表示：“立即、无限期地暂停前沿人工智能开发的国际禁令……是唯一能……真正让我们安全的事情。” 世界上一些最著名的人工智能高管现在呼吁放缓构建日益强大系统的竞赛。但人工智能安全研究员大卫·克鲁格认为，这还远远不够。 “我们必须阻止AI。我们必须停止构建更强大的AI。我们需要立即对前沿AI开发实施无

为什么一些专家越来越担心AI将接管一切

AI变得越来越难以控制——人类还能保持主导地位吗？

欧洲央行帕内塔表示，人工智能收益的分配将影响通胀走势

近半数年轻人更信任人工智能而非人类

上头AI裁员的老板里 超过一半都后悔了

AI Agent最热闹的日子里，老板们恨不得当场宣布“未来已来”，嘴里全是效率和转型。轮到复盘的时候画风突然变了。超过半数的老板对于裁员这件事，居然都在半夜懊悔地直拍大腿？ 今年2月，职场转型服务公司Careerminds调查了600名过去一年参与过裁员的HR从业者。超过四分之三的人表示，公司曾因为AI等技术进步裁掉员工。 可真正到了验收成果的时候，只有8.4%的受访者认为AI驱动的重组完全达到了

恩格斯停顿会重演吗？人工智能时代的资本、劳动与分配（三）

传统机器即使大量积累，通常仍需要工人与之配合；AI算力增加，却可以直接扩大机器能够完成的任务范围。图：视觉中国　　前文已经说明，艾伦故事中最乐观的一环，是资本积累最终提高了劳动的边际产品：机器越来越多，并没有使工人变得多余，反而使与机器配合的劳动更加有价值，工资因此最终追上生产率。人工智能时代是否仍然存在这一机制，没有先验答案，关键取决于AI资本与劳动究竟是互补还是替代。　　按照阿西莫格鲁（Dar

“如果你造出比自己聪明得多的东西，它最好站在你这边”：我们能阻止AI欺骗我们吗？

我们习惯了人类同胞可能故意误导或操纵我们的想法，但机器现在也能做到这一点，这让人深感不安。研究人员正争分夺秒地寻找解决方案，以免为时已晚。《长篇阅读》杂志夏季刊现已出版。点击此处订购。2023年11月——在人工智能领域已是久远之前——一些世界上最有权力的人聚集在布莱切利园，这个位于白金汉郡的战时密码破译中心，讨论AI安全问题。 出席者包括时任美国副总统卡玛拉·哈里斯、AI老板萨姆·奥尔特曼和达里奥

奇点并非如其所见

无论人工智能的未来如何，我们现在就身处其中。

虽然机器人还远未能投出完美的“Doosra”球（一种旋转球），但人工智能已经在许多方面改变了板球运动的面貌。

前OpenAI研究员安妮尔·科科塔伊洛（Danielle Kokotajlo）上周警告称，我们可能会“创造出一个最终统治世界的新物种”。当最初的震惊消退，当我思考这对我的年幼子女和地球未来意味着什么时，另一个念头浮现在我脑海中：这个新物种能挥动一颗老式板球吗？能应对一条缝线清晰的绿色球道吗？这听起来很荒谬。确实如此。但这个问题并不像初看时那样可笑。 弗雷迪·怀尔德（Freddie Wilde）是印

别只问AI会不会毁灭人类

“十年之内，AI毁灭全人类的概率超过10%。”这个数字一出，舆论哗然。有人追问它是否科学，有人指责它制造恐慌，也有人据此主张放慢甚至停止AI研发。 其中，一些最了解AI的建造者，一边真诚地承认这项技术可能杀死所有人，一边却没有停下手里的开发。他们并非在说谎，也不是虚伪——现实中有种种力量，使他们无法停下来。 观潮无意纠缠“10%的概率究竟大还是小”。比数字更值得追问的，是人们讨论它时所站的位置。

【华尔街原声】美国风投：AI竞争正进入“模型商品化”阶段

【CNBC】美国科技投资公司Bond Capital合伙人Daegwon Chae近期接受CNBC采访时表示，AI行业正在进入新的发展阶段。　　此前行业经历了AI研究、ChatGPT面向大众普及以及企业采用AI等阶段，如今竞争重点可能从追求前沿模型的绝对领先，转向模型竞争、模型选择更加多元，甚至“模型商品化”。随着开源技术发展和推理成本下降，企业将能够以更低成本使用AI。　　Chae认为，并非所有