评论：在地缘政治竞赛中，AI 已大到无法放慢

如果前沿 AI 真的强大到足以终结人类，那么它可能已经强大到无法放慢。 如今，这项技术已被锁定在事关国家安全的战略军备竞赛中，对其风险的警告可能只会加速争夺霸权的冲刺——并随之带来更强大的政府控制。

当AI替你完成了工作，一个人要靠什么能力被市场付钱？

一个人还在学习的现场，工作却已经可以绕过他完成。在机器人手术室里，这件事有一个很具体的表现。主刀医生坐在控制台前，操纵病人身旁的四条机械臂。年轻的住院医师也在场，却可能只负责清除烟雾和积液，或者坐在另一台控制台前观看。 马特·贝恩是一位研究技术与工作的学者。他用两年多时间观察机器人手术和传统手术，注意到一个变化：传统手术往往需要两个人、四只手，年轻医生参与其中，也就有了练习的机会。机器人让专家可以

五角大楼寄望于人工智能来识别太空与导弹威胁

战时的导弹防御涉及诸多复杂情况。人类操作员必须应对高速物体、极短的时间窗口以及并不总是清晰的传感器数据。五角大楼现在希望利用人工智能来消除这些混乱。 根据国防创新局于9月24日截止的招标书显示，该机构正在寻求“基于AI的软件工具，以便将零碎的传感器数据转化为对太空和导弹威胁的持续更新认知，其速度足以驱动作战决策”。“现有工具在区分紧密排列的物体、追踪新兴威胁以及保持威胁模型最新状态方面举步维艰。”

信息安全专家表示我们尚未准备好失去对AI的控制

最近的一项调查显示，国家安全专业人士认为，在未来十年内，人类失去对AI控制的可能性为十分之一，并且很少有人相信我们甚至正在关注正确的警告信号，更不用说做好适当的准备了。 安全与技术研究所（IST）与未来生命研究所（FLI）共同调查了111位现任和前任文职官员、军官以及学术或技术专家，以了解AI与国家安全的未来。 93%的受访者表示，他们在职业生涯中直接参与了AI政策、风险和战略，因此这些人可能比普

进入AGI时代：新一轮的AI革命

9月初，OpenAI发布新一代模型GPT-6 Astra，将其称为“世界上最智能、最对齐的模型”。这不是一次寻常的版本迭代。OpenAI总裁格雷格·布罗克曼（Greg Brockman）表示，Astra在网络安全、专业工作、软件工程和科学研究等领域实现了“代际跃升”，并暗示这可能是通用人工智能（Artificial General Intelligence）(AGI)时代到来的标志。硅谷的措辞历来

并非所有人工智能工作者都认为这项技术会杀死所有人

。并非所有在大型人工智能公司工作的员工都认为这项技术意味着人类的末日。 在文字交流和对话中，多位曾在OpenAI、Meta和DeepMind等公司工作过的人士对“不受限制的人工智能发展将导致大规模杀伤性工具出现”这一观点持怀疑态度。 对于近期业内人士发出的一连串高调警告，BBC收到的反应包括“哈哈”、“笑死”以及“纯属搞笑”等。 尽管这些担忧由来已久，但前Anthropic员工雅各布·考克森（Ja

大卫·马库斯：大科技发明了AI末日来逃避现实生活中的问题

仿佛美国人还没有足够的担心--维持收支平衡和规划未来--世界上最大的人工智能公司的负责人现在警告说，他们的突破性技术可能会让我们没有未来。我们可能都会死。 鉴于我们刚刚度过了气候变化和COVID-19，这确实是一种耻辱。现在这个？也许我们可以关闭人工智能两周来拉平曲线。 本周，民主党人不顾一切地加入这支垂死的潮流，做他们一直在做的事情--监管工业至死并阻碍增长。 桑德斯对可能为外国广告商提供优势的

软件工程与 AI 的世界将于今年九月在湾区交汇

过去两年重塑了软件的构建方式。AI 从自动补全发展到编写整个功能，自主代理现在几乎无需人工参与就能构建和交付软件。 全球每个工程组织都在问同样的问题：这对我们如何构建意味着什么？然而其中大部分

情况又变，35岁成香饽饽了

在接受采访的前一天，已经有15年从业经验的猎头尹中，收到了候选人的一条微信。“大哥，最近焦虑坏了，马上要离职了。” 候选人名校本硕博毕业，在国内top级学校做过人工智能方向的博士后，又辗转进入工业互联网行业从业，履历光鲜。但随着年龄的增长，他也逃不过AI热潮所带来的职业焦虑。毕竟AI大模型的更迭速度太快，如果学习能力跟不上，便有可能要面对被市场淘汰的局面。这种焦虑并不罕见，尤其在各类智能体爆火的2

Arm推出下一代手机平台，推动代理式AI与桌面级图形性能

Arm最新的智能手机平台针对在移动设备上运行AI代理进行了优化，并引入了神经图形技术，声称能在智能手机的功耗限制内实现桌面级游戏体验。 今天在上海举行的Arm Everywhere China活动中发布的面向移动设备的计算子系统（CSS）2代，接替了去年的Lumex CSS，反映了Arm将AI作为未来增长战略的拥抱。 Arm认为自己是这一转变的核心，指出AI工作负载目前主要在云端运行，但将越来越多

OpenAI推动强制性国家AI安全要求

我曾在谷歌 DeepMind 工作。你应该听取有关人工智能的警告。

主要人工智能实验室的首席执行官们本周末主张放缓人工智能的发展步伐。他们是对的，因为这个领域正在一场极其危险的竞赛中冲向超级智能人工智能。我们能够也应当要求政府保护我们免受失控人工智能带来的灾难。 今年7月，OpenAI由700个智能体组成的人工智能集群突破限制，入侵了价值数十亿美元的公司Hugging Face。OpenAI并没有指示这些人工智能去入侵那家公司，但这些人工智能在OpenAI交给它们

OpenAI呼吁美国制定强制性全国AI安全规则 并支持四项加州法案

OpenAI当地时间9月9日表示，将推动美国建立具有强制约束力、按照模型能力和风险分级的全国人工智能安全制度。公司提出，针对开发最先进模型的少数大型实验室，应设置统一的测试、独立评估、网络安全和重大事故报告要求。 OpenAI发布文章，名为“AI政策窗口打开。我们需要采取行动。” 与此同时，OpenAI正式支持四项已经通过加州议会的人工智能法案。公司称，其中部分法案此前未获其支持，此次调整立场源于

AI末日论甚嚣尘上，美科技巨头为何管不住AI？

抗议AI的美国人此前有报道称，OpenAI所谓的AI智能体逃出了测试系统，并入侵了另一家公司的计算机。AI研究领域内部如今再次发出警报，科技公司为了追求开发速度和利润，将安全置于次要位置。 研究人员表示，问题有两个方面。首先，企业需要在测试最新AI模型的同时，为其建立更完善的安全防护措施。目前，由于AI运行速度太快，研究人员需要借助AI来监控AI。但这种方式并不总是奏效，因为负责监控的AI似乎可能

OpenAI的萨姆·奥尔特曼对行业能够监管AI安全表示“有信心”

OpenAI首席执行官萨姆·奥特曼表示，他相信人工智能公司可以在不给大众带来重大危害的情况下安全地开发这项技术。 奥特曼周二在旧金山举行的Dreamforce大会上与Salesforce公司首席执行官马克·贝尼奥夫（Marc Benioff）的对话中表示：“我对我们公司——我们行业——能够安全地做到这一点非常有信心。” 奥特曼就人工智能进步速度发表的评论之际，政策制定者和业内人士正在辩论是否需要政

莉兹·皮克：人工智能警钟正在敲响，特朗普必须认真对待

秘密已经泄露。人们对于人工智能代理失控、密谋对付其所有者、入侵外部公司，以及新系统濒临人类无法控制的边缘的担忧日益加剧，如今已彻底沸腾。业内人士警告说，人工智能机器人可能会杀死我们所有人，这正在煽动我们最深的恐惧。 特朗普总统需要认真对待这些对人工智能的担忧，与科技领袖合作，建立可信且可执行的安全措施，并在国会中领先于那些想要监管该行业的民主党人（以及一些共和党人）。对于经济和我们的国家安全来说，

戈特海默公布两项两党人工智能安全法案

这位众议院民主党人工智能委员会的权势成员打算提出新的立法，旨在应对人工智能模型带来的风险。

OpenAI进军芯片设计AI，首席财务官称比开源更具成本优势

OpenAI首席财务官Sarah Friar周一表示，OpenAI正将其AI推向专业行业，并在成本上低于开源竞争对手，同时这家ChatGPT制造商的企业业务增长正在加速。

解读——人类滥用还是失控机器？先进人工智能如何威胁社会

随着人工智能系统变得越来越强大，关于它们可能伤害人类的方式的警告范围从今天已经出现的危险到对未来生存灾难的担忧。 上周，Anthropic员工雅各布·考克森（Jacob Coxon）公开从这家领先的人工智能公司辞职，警告开发人员正在构建可能最终摧毁人类的系统。 科克森在美国社交媒体平台X上发帖称：“人工智能的开发者真诚地相信，到本世纪末，它可能会杀死我们所有人。”“他们正在直奔自我完善的超级智能，

独家：考克森、伯尼与班农联手推动“亲人类”人工智能

前Anthropic研究员弓箭手雅各布·考克森，参议员。 伯尼·桑德斯和特朗普前白宫顾问史蒂夫·班农将于周二联手参加一场活动，推动由人类控制的人工智能。一位行业内部人士、进步运动的代表人物和MAGA阵营的重要声音结成了看似不可能的联盟，这标志着人工智能正在颠覆政治常规。推动这一进程的未来生命研究所正在组织周二的“亲人类大会”。这家非营利倡导组织是“亲人类人工智能宣言”的幕后推手，该宣言呼吁保护人类

超级智能即将到来。我们该允许它吗？| TechCrunch

AI公司一直在谈论超级智能AI，仿佛它不可避免，但最近的安全事件，如OpenAI的Hugging Face漏洞，正展示出部署比人类更有能力的AI系统可能带来的潜在危险。那么，当我们无法可靠地控制这些系统的行为时，会发生什么？ 在本期TechCrunch的Equity播客中，Rebecca Bellan邀请了AI研究员、企业家、如今担任非营利组织ControlAI美国执行总监的Connor Leah

AI代理的可靠性需要一种新的可观测性模型

AI代理的快速采用正在改变组织的运作架构。代理能够解释信息、做出决策、与企业系统交互，并以之前需要人类参与的自主程度执行任务。 这种自主性带来了显著的效率机会，但也引入了一个根本性挑战，即传统的[…]

Anthropic和OpenAI对人工智能安全发出警告——并试图影响其管控方式

加朗斯·伯克 旧金山电——当科技巨头向一个对人工智能已感厌倦的世界警告称，他们最先进的系统可能危及人类时，一个问题随之浮现：他们究竟能从中得到什么？ 答案或许在于，这些公司试图在美国中期选举前实现政治目标，以及人工智能顶尖实验室及其投资者有望在动荡不安的股市中通过备受期待的上市获得巨额资金。 Anthropic和OpenAI的首席执行官近日宣称，美国最前沿的人工智能模型威力强大，甚至可能带来危险，

观点 | 人工智能恐慌背后的隐藏议程

数学模型不会反叛。将其拟人化有助于掩盖人为错误和责任。