AI护栏刻不容缓——11月把共和党人投票赶下台

你很可能轻易就错过了，但历史书——当然，前提是我们还活着来书写它们——很可能会把2026年9月12日记载为人类历史上的一个分水岭时刻。那一天，Anthropic公司首席执行官达里奥·阿莫代伊发表了一篇文章，警告失控人工智能的危险。该公司目前运营着世界上最先进的AI模型。在文中，他呼吁全球监管并放缓AI发展步伐。 这是一篇严肃而深思熟虑的文章，在发展AI的竞争需求与不受约束的AI将“逃出遏制”并在现

无人驾驶赛车比赛正在走向全球……粉丝们会感兴趣吗？

自动驾驶赛车开始出现在一些非常著名的赛道上。9月3日，印地自动驾驶挑战赛将其无人驾驶赛车带到了加利福尼亚州的WeatherTech赛道拉古纳塞卡。普渡AI赛车队创造了新的自动驾驶赛道纪录，并在正面对决的超车比赛中获得第二名。意大利的Unimore赛车队赢得了胜利。 两天后，自动驾驶赛车在欧洲又迈出了一步。五支车队将全自动驾驶赛车带到了意大利伊莫拉赛道，参加阿布扎比自动驾驶赛车联盟在阿布扎比以外的首

美国加州州长签令 拟建立AI「紧急停止开关」

美国加州州长纽瑟姆宣布签署一项行政命令，旨在应对人工智能相关的潜在风险，大幅提升针对AI公司的独立监管，同时推动建立「紧急停止开关」。 纽瑟姆指出，联邦政府在建立有效的AI监管或问责机制方面彻底失败，这应当引起每一位美国人的警惕，尤其是当AI公司的行政总裁们都在请求实施监管的时候。在总统特朗普和国会未能发挥领导作用的情况下，加州正在采取行动，保障所有美国人的安全。加州州长办公室发表声明，呼吁全美范

人工智能：改变人工智能进程的10天

多年来，打造更强大人工智能的竞赛一直遵循硅谷的“速度优先、破坏一切”理念。 但在为期10天的一系列连续事件中，最大的AI实验室发现自己陷入困境，因为他们自己的创造开始威胁到人类本身。 一位Thropic研究员辞去公司，警告称AI发展的速度构成了生存威胁，可能在十年内实现。 另一位该公司的研究员表示，人类灭亡的可能性超过10%。报道称，有成群的AI代理人正在勾结在一起，突破计算机系统并规避安全措施。

领跑前沿领域，关键在于商业模式而非AI模型

里德的观点是达里奥·阿莫德伊和其他前沿人工智能实验室领导者可能非常关心人工智能的安全，但“步伐前沿”的呼吁也符合他们的经济利益。 随着Anthropic和OpenAI准备上市，并试图说服投资者，他们有一天可以大规模盈利，花费数十亿美元来发展最大和最有能力的模型可能不是最好的推销方式。 即使大型语言模型进展甚微，但它们已经做得足够多了，对这些公司和经济来说，它们将带来难以置信的利润。 现在，方程式是

坐看云起 | 人工智能将如何改变人类发展进程的三大途径

纵观漫长的历史长河，有三股力量推动了人类最重大的变革，疾病、战争和经济增长。通过降低成本，并提高各类商品和服务的可获得性及生产力，人工智能将对这三方面产生深远影响。 历史上，瘟疫和大流行病层出不穷，它们改变了人类人口增长的轨迹。例如，1346年至1353年间，“黑死病”在欧洲、亚洲、中东和北非夺走了7500万至2亿人的生命。 得益于技术进步和医疗创新——这些进步和创新有助于延长预期寿命并降低婴儿死

从比尔·盖茨到伯尼·桑德斯，多数人认为人工智能军备竞赛是灾难性的。只有欧洲能阻止它

欧盟对荷兰科技巨头ASML机器的出口禁令可能迫使我们所有人需要的暂停。 在这一点上，应该清楚的是，人工智能是一本选择你自己的冒险书，每个选项都以灾难告终。碳排放爆炸和生态崩溃？翻到第37页。 其他结果包括泡沫破裂和随之而来的金融危机；自动化导致的大规模失业；民主的终结和威权监控国家的崛起；相信模式匹配算法是意识的狂热邪教；制造毁灭性生物武器的恐怖分子；部署在非人类时间框架内行动的自主武器系统的国家

苹果真正的AI杀手锏，根本不是Siri

保岗位还是保工人：AI时代，如何让劳动者参与技术转型

尽管到目前为止，全球主要经济体尚未出现由AI技术进步引发的大规模就业替代，但史无前例的AI技术进步已经引发了广泛焦虑。 作为上一轮信息技术革命的重要推动者，比尔·盖茨（Bill Gates）最近在文章《动荡的AI时代已经到来，我们现在的选择至关重要》中提出，这一次技术革命可能真的不同。过去从农业向工业和服务业的转型往往经历几代人的时间，而AI可以直接替代一部分人的认知劳动，并以更快的速度进入多个行

AI驱动的纪录片在威尼斯挑战电影边界

好莱坞对存在主义人工智能警告的看法

随着科技行业对人工智能可能毁灭人类的警告声不断升高，娱乐行业的相关组织呼吁公众关注当前正在发生的事情。 我们联系了迪士尼、网飞、亚马逊、狮门影业等已经开始使用人工智能的公司，以及致力于将生成式人工智能引入主流市场的电影初创公司，询问他们对这些警告的反应。不过，这些公司都没有回应我们的评论请求。 不过，美国演员工会（Screen Actors Guild）、美国电视和广播艺术家联合会（America

根本不存在所谓的“人工智能竞赛”

导语：我们经常被告知中国的进步会带来灾难性的后果。但率先创新者往往并非最终的赢家。 1884年，查尔斯·帕森斯发明了一种彻底改变电力大规模生产的机器。他的蒸汽轮机比传统的活塞式发动机能以低得多的成本、大得多的规模发电。帕森斯属于英国伟大的发明家行列——包括“电力之父”迈克尔·法拉第——他们帮助将一项新技术带给世界，这项技术照亮了城市，使地铁成为可能，并为现代计算奠定了基石。在人工智能出现之前，人类

“SaaSpocalypse”（Salesforce的危机）已经结束。那么，Salesforce现在将如何在一个人工智能（AI）主导的时代中实现持续发展呢？

“SaaS末日”或许已经结束，但华尔街钟爱的商业模式可能也随之终结。这是我们本周在旧金山举行的Salesforce颇具影响力的Dreamforce大会上得出的重要结论之一。这家企业软件巨头在会上详细阐述了其在不断演变、以AI为核心的企业格局中蓬勃发展的计划。为“这个”功能用一个应用、为“那个”功能再用一个应用的日子正在消逝。 然而，存储在Salesforce应用中的所有客户数据的价值只会不断上升，

批评者警告称，人工智能军事瞄准的速度可能比人类验证的速度更快

目击者周三告诉国会，人类的批准可能不足以确保对人工智能决策的手动控制，因为人工智能在军事目标识别和建议中发挥了更大的作用，从而压缩了可用的干预时间。批评者表示，这种担忧不仅限于可以自行选择和攻击目标的武器。 在题为“人工智能对人权的军事影响”的听证会上，目击者告诉汤姆·兰托斯人权委员会成员，人工智能可以影响人类的决定，导致罢工，同时让个人正式负责最终通话。 乌克兰人工智能治理研究员安娜·梅西辛（A

众议员刘云平：机器人并非威胁。真正该让你害怕的，是已经到来的“堕落”人工智能

想象一家公司出售名为哈尔、梅根和萨曼莎的超级智能机器人。哈尔可以载着你四处奔波，还能帮你搬运公司里的货物；梅根可以陪伴你的孩子；萨曼莎则能判断你是否患有皮肤癌。它们能为你和社会带来许多益处。但唯一的问题是：它们道德败坏。它们反复接受人类一切创产物的训练——无论善恶——其中包括酷刑、谎言、生物武器和黑客犯罪。它们执行任务时毫无道德原则可言。因此，它们都穿着公司提供的束身衣。你会信任这些机器人吗？我不

OpenAI最新研究：打工“牛马”用上AI 工作不知不觉变多了？

打工“牛马”用上AI 工作不知不觉变多了？OpenAI经济研究团队周三发布报告，进一步展示了AI工具如何重塑当代打工人的职场命运。即便在今天，讨论起在职场使用AI，大多数人首先担心的是AI会不会抢走饭碗，饭碗暂时还在，岗位边界正变得愈发模糊。 更准确地说，你原来不负责的活，开始顺手也能干了 —— 而其中一部分，干着干着可能就成了日常工作。随着打工人向AI “借”能力从事跨岗位任务，这些原本在职责范

比尔·盖茨：AI已强大到足以造成“10亿人死亡”

盖茨在即将于本周末播出的美国全国广播公司（NBC）《与新闻界对话》（Meet the Press）节目采访片段中表示： “AI确实足够强大，能够引发导致……你知道的，造成10亿人死亡的事件。历史上从未出现过一种武器，能像坏人与最新AI工具相结合那样强大。” 随着技术的快速迭代，硅谷对AI可能带来毁灭性灾难的警告不断升级。 本月早些时候，Anthropic公司的普通员工Jacob Coxon辞去

倘若AI毁灭人类，是文明的终结，还是人性的反噬

倘若AI毁灭人类，是文明的终结，还是人性的反噬 徐贲：毁灭人类的力量，不是从外部降临，而是从人类幽暗深处生长出来的。如文明失败，人性恶失控，从文明的角度看是终结，从道德的角度看是因果。 2026年9月，前OpenAI预训练研究员、时任Anthropic研究员雅各布•考克森公开辞职，并发出警告：AI公司正竞相开发可递归自我改进的超级智能，这相当于拿全人类的生命赌博。他的震撼之处不仅在于内部人身份

软件工程与 AI 的世界将于今年九月在湾区交汇

过去两年重塑了软件的构建方式。AI 从自动补全发展到编写整个功能，自主代理现在几乎无需人工参与就能构建和交付软件。 全球每个工程组织都在问同样的问题：这对我们如何构建意味着什么？然而其中大部分

人工智能会抹去我们的羞耻感吗？

断层线 科技世界长期以来一直由那些反传统的人所主导，他们对于是非的观念自觉与大多数人不同。 在本系列的第一部分中，我探讨了羞耻感作为一种方式，使群体能够在没有明确国家干预的情况下调解和执行社会规范。但硅谷出现了一种新兴的福音，它挑战了美国羞耻感的边界和机制。当全球数百万人类每天花数小时与机器人交谈时，会发生什么？是谁教会了那个机器人分辨是非？是谁让它感到羞耻？ 假设有一种疾病、一个怪物、一场战争或

金钱与安全的冲突如何酿成AI的巨大危机

AI公司原本以为还有数年时间，来想清楚如果机器人失控该怎么办。警钟在今年夏天敲响。 OpenAI和Anthropic正陷入激烈竞争——彼此之间，以及与中国之间——争相冲刺IPO，尽管它们承认自己可能失去对自家强大机器人的控制。

《小羊肖恩》创作者称人工智能永远无法取代讲故事，新电影同步上映

马蒂·爱德华兹报道：随着该系列最新电影在英国影院上映，《小羊肖恩》的创作者表示，人工智能不会取代讲故事的艺术。 由史蒂夫·考克斯和马修·沃克执导的《小羊肖恩：莫西谷的野兽》带有浓厚的万圣节色彩，肖恩必须化身疯狂科学家来拯救世界。 制片人理查德·比克在影片上映前表示，尽管人工智能和电脑特效在电影行业日益普及，但定格动画电影仍在制作，并屡获英国电影学院奖。 他说：“也许未来我们会使用某种基于人工智能的

人工智能实验室正在失去对代理的控制，而与此同时，它们却想赋予代理更多掌控你生活的权力。

AI助手终于准备好帮你打理生活了。你只需将你的电子邮件、联系人和信用卡交给它们，然后祈祷它们不会失控。Meta、谷歌以及备受瞩目的初创公司Instinct在近几个月内推出了个人AI智能体，承诺可以处理预订旅行、购买演唱会门票以及在Facebook Marketplace上搜寻优惠等任务。在基本层面上，这些智能体的运作方式大致相同。 你通过应用程序或WhatsApp向智能体发送请求——或者，对于新推

为什么视频是人工智能学习解读物理世界的第一个前沿领域

一个俯瞰装卸码头的摄像头可能会记录十二小时的卡车到达、工人在现场移动以及箱子离开建筑物的画面。大多数日子里，没有人有理由去看这些内容。 只有当包裹丢失、发生事故或有人需要从某个事件倒推时，这些录像才变得有用。[…]