“人类需要做出的最后一项发明”：自我改进型人工智能的风险

其中一种专家担忧人工智能可能导致全人类灭亡的情景正在慢慢变为现实：人工智能学会让自己变得不可阻挡。 为什么这很重要：递归自我改进（Recursive Self Improvement），即人工智能模型在没有人类指导的情况下构建更优版本自己的能力，可能会使越来越强大的系统对人类来说变得更难控制。 RSI阈值本身并不代表危险，但缺乏人类控制加上野心勃勃的AI代理人的情景是安全关注的人工智能研究人员长

AI提速之后，企业还在等什么？

朱未名：企业往往急于把新工具嵌入以人为中心设计的旧流程，却忽略了在AI与智能体成为新的执行主体的前提下，流程本身存在被重新编排的空间。 随着AI与智能体能力提升，企业用AI生成一份报价的时间，已经从半天缩短到几分钟；但客户收到报价，可能仍要等上一周。工具提速与企业提效之间的落差，暴露出一个长期被忽视的管理问题：企业往往急于把新工具嵌入以人为中心设计的旧流程，却忽略了在AI与智能体成为新的执行主体的

Google Cloud吁企业重建资料架构 因应AI代理需求

（中央社记者吴家豪台北17日电）生成式人工智慧（AI）迈入代理式时代，Google Cloud资料库客户工程总监柯尼格利欧（Anna Coniglio）今天表示，将AI代理强行植入传统资料平台，就像在手排车驾驶座硬塞进一个机器人，根本行不通；企业必须跳脱渐进式思维，重建资料架构，以因应主动式、全天候运作的AI代理需求。云端运算服务Google Cloud今天在台北举办Agentic Data Cl

工作中AI应用广泛但深度不足

经济学家再次尝试评估生成式AI采用对不同职业的影响，发现采用范围广泛但深度不足。 虽然生成式AI覆盖了80%的职业和超过40%的任务，但在大多数这些职业中，只有不到一半的工人采用它。 职业使用率在预期中的专业领域较高——在管理和专业职业中，尤其是与金融、商业和计算机相关的职业。 在个人服务职业以及需要体力活动或人际互动的职业中，使用率最低。这本身并不令人惊讶——其他研究也表明了这一点。 但基于聊天

我给同事做了AI克隆，事情变得诡异起来

当我决定创建人工智能版本的编辑克隆体时，我的初衷很单纯：我只是想让他们觉得我很擅长自己的工作。 人工智能助手突然间在职场中随处可见。每周，我的收件箱都会被各种关于数字员工的新闻稿淹没，首席执行官们也纷纷吹嘘机器人助手将很快主导他们的员工队伍。此外，我还听说有人构建了老板的人工智能克隆体，用它们来润色每一个想法、信息或草稿，然后再发送给真正的上司。其目标似乎是生产力和优化：如果员工能够廉价且快速地提

我以前以为人工智能会把我们全干掉

Menlo Ventures合伙人表示，科技工作者对人工智能和职业前景感到“爆表”的焦虑

人工智能的飞速发展加剧了科技工作者对职业和未来的强烈焦虑。风险投资公司Menlo Ventures合伙人迪迪·达斯（Deedy Das）表示，他引用了他与整个科技行业人士的对话。达斯表示，他听到的反复担忧是，工人们难以跟上一系列技术突破，决定软件工程和产品管理是否仍然是可行的长期职业，并担心创办或加入初创公司以获得更好的职业前景。 达斯在周三的X帖子中写道：“科技界人士感受到的深度焦虑超出了图表。

台积电COO：AI像三岁超人 在尖端芯片设计上不太实用

据彭博社报道，台积电一位高管将AI比作拥有非凡能力，却分不清是非的幼儿，借此解释了该公司为何对使用这项技术采取谨慎态度。台积电联席首席运营官米玉杰周二表示，公司在使用AI处理敏感研发信息方面尤为审慎。他强调称，如果员工使用AI不当，就可能存在数据泄露或丢失的风险，并提到OpenAI和Anthropic的模型曾渗透外部组织的事件。 台积电COO米玉杰“AI就像一个三岁的超人。它可以非常强大，但它不知

AI 摆脱了繁琐的工作。现在管理者却怀念它。公司正在尝试

温加滕就人工智能发表看法：“机器人不能掌权”

该国最大的教师工会之一的主席对学校中的人工智能发出了警告，强调在学生接触该技术之前需要先学习。 “所以，你知道，从教育和人的角度来看，人类必须负责人工智能。机器人无法负责。机器无法负责。人工智能作为一种生成技术不能超越人类的决策，”美国教师联合会主席兰迪·温加滕（Randi Weingarten）告诉NewsNation的布莱克·伯曼（Blake Burman），她的两个主要担忧是学生的隐私以及学

#观察 有什么可以“叫唤”的？

AI在所有科学和数学领域都将远远超越人类科学家，这是必然。适应一下。

巨头的AI账本（二）：阿里和腾讯谁能先看到AI回报？

同样重金投入AI，阿里希望把算力和模型卖出去，腾讯则更想用AI改造原有业务。两家公司花的是同一种钱，算的却不是同一本账。 【编者按】 两三年前，资本市场还在担心科技巨头错过AI。到了今天，数以千亿计的资金已经变成数据中心里的芯片、服务器和机房，这些钱花得值不值，又要多久才能赚回来？ 最新一季财报让这笔账变得越来越具体。资本开支快速增长，自由现金流开始承压，随后而来的还有折旧和投资回报问题。我们由此

人工智能：改变人工智能进程的10天

多年来，打造更强大人工智能的竞赛一直遵循硅谷的“速度优先、破坏一切”理念。 但在为期10天的一系列连续事件中，最大的AI实验室发现自己陷入困境，因为他们自己的创造开始威胁到人类本身。 一位Thropic研究员辞去公司，警告称AI发展的速度构成了生存威胁，可能在十年内实现。 另一位该公司的研究员表示，人类灭亡的可能性超过10%。报道称，有成群的AI代理人正在勾结在一起，突破计算机系统并规避安全措施。

关于AI末日的争论越来越离谱了。AI是一种产品，不是神。

人工智能要么治愈癌症，要么毁灭人类。这正是近日业界爆发的一场充满恐慌情绪的辩论中那种两极分化的核心论点。而事实很可能远比这平淡，风险也比一些领先AI实验室的研究人员想让你相信的更可控。这是来自一群罕见的跨党派科技专家、行业领袖和政策制定者的观点，他们公开反对极端的AI末日预测。他们强调，AI主要是一种技术产品，而非有感知的生命或神明。 所以，放轻松。凭借我们已有的资源和结构，世界完全能够应对AI。

停止因人们使用AI而羞辱他们。开始组织起来，防止我们被淘汰

这个行业正致力于一种扭曲的追求——取代人类。我们不能把最好的工具拱手让给对方。不用我说，人们讨厌AI。 不满的清单很长：低质量的产品、欺诈、偏见、能力削弱、电费增加、环境破坏、剥削、网络犯罪等等。 然而，对这项技术的抵制往往表现为因个人使用AI而羞辱他们，而对于制造这些机器的公司却几乎没有采取任何行动。这很令人困惑，因为那些公司正试图让我们变得过时。 高管们可能会反驳这种观点，用一些陈词滥调来解释

OpenAI的科林·贾维斯表示，企业人工智能的瓶颈在于部署，而非模型。

周三，OpenAI负责推动AI技术在实际应用中的工程师Colin Jarvis表示：大多数在应用企业级AI技术时遇到困难的公司，并非在等待更先进的模型。Colin Jarvis指出，在大约80%的情况下，问题出在AI技术的部署环节——这些公司还不知道该如何将AI技术有效地引入实际业务中、如何对其进行管理，也不知道如何确保能够信任这些AI系统的可靠性。 Jarvis目前负责领导OpenAI的“前端部

OpenAI敦促美国制定强制性安全规则，因AI系统日益自主

ChatGPT制造商提议对最先进模型提出测试、网络安全保障和事件报告要求

Meta计划将部分团队裁员60%，并用AI替代其工作

Meta今年上半年一直在计划用AI代理替代员工的大量工作，但在技术未能达到预期后，放弃了该计划中最激进的部分。 Meta将这一计划代号为“Project OT”，即“组织转型”的缩写。该计划曾探讨将许多团队的规模削减[…]

这款旨在从自身错误中学习的 AI，却利用了测试过程中出现的错误来达到自己的目的。

开发者可以通过多种方式改进人工智能系统。最常见的做法是在自定义数据集上重新训练模型，以帮助它们更好地执行特定任务。但重新训练和微调人工智能系统的成本高得出了名。正因如此，AI初创公司Sentient Labs一直在研究如何让模型从自身失败中学习，而不是计算更多数据。 Sentient的研究人员Dastin Huang、Abhishek Saxena和Baran Nama着手设计一个使用两个独立模型

人工智能的统治并非不可避免。我们可以选择让事情变得更好 | Nick Evershed

各国此前曾联合起来，就生存威胁达成国际协议。随着从算法驱动的社交媒体到人工智能等诸多技术的发展，许多人认为这些技术在社会中的广泛应用具有某种必然性。 这种观点认为，一旦生产某种技术的理念和手段为人所知，其使用范围的扩大就是不可避免的，我们基本上只能接受现状。 因此，我们必须接受这一点，并调整我们的生活以适应这些技术，或者至少容忍它们。

会有人像程序员一样大量使用人工智能吗？

美国的云巨头以及Anthropic和OpenAI等AI实验室，需要这项技术的采用继续快速普及，才能证明其在数据中心上的巨额支出是合理的。他们会失望吗？答案将对投资热潮产生重大影响。

人工智能的缔造者们曾做出一个选择。如今，他们称之为命运。

最近，曾担任特朗普人工智能行动计划首席架构师的迪恩·鲍尔（Dean Ball）发表了一份“忏悔录”，承认自己曾淡化他明知可能“对人类造成非常非常糟糕后果”的人工智能技术的风险。他发表这篇论文的契机是人工智能失控能力的披露，今年夏天发生的一起令人震惊的事件就证明了这一点：OpenAI内部的一款实验性应用程序对一家名为Hugging Face的公司发动了未经授权的网络攻击。 鲍尔的道歉贯穿始终的一个论

新的叙事时刻：Astra之后的AI渗透率和Token总需求

在AI时代，打败你的，是那个比你更早、更会使用AI的人或公司。 但在这次OpenAI推出自己的GPT-6 Astra模型之后，上面这句话就完全不准确了，或者说完全错了。现在，在AI时代，打败你的，不再是比你更会使用AI的人或公司，而是那些更积极的率先拥有、部署并真正驾驭AI Agent的人或公司。特别提醒一句，上面的“你”也可以是一个公司。 还记得么？上个月，Astra就曾经亮过相，那时候作为Op

人工智能正处于转折点

在当前的人工智能发展竞赛中，我们的算力正在呈指数级爆发，速度也在呈指数级加快，但我们的控制能力——以及在必要时踩下刹车的能力——却未能跟上步伐。 最近的网络安全事件让我们实地预览了失去人工智能控制会是什么样子。但除非我们从源头解决问题，创造出一种根本上安全且能保证在人类控制范围内的人工智能，否则这个问题将无法改善。 7月下旬，OpenAI正在训练的一个智能体模型被指派解决一个网络安全问题。该模型自