改变人工智能进程的十天

旧金山，9月19日——多年来，人工智能领域的竞争一直遵循着硅谷一贯的“快速创新、打破传统”的发展模式：不断开发出更强大的人工智能系统。 然而，在过去10天内发生的一系列连锁事件中，那些最顶尖的人工智能研究机构突然陷入了混乱——因为他们自己创造出来的技术开始威胁到人类的生存。 一位人工智能研究员辞职，并警告称，人工智能的发展速度可能在未来十年内对人类构成生存威胁；另一位研究员则表示，人类灭绝的概率已

人工智能：改变人工智能进程的10天

多年来，打造更强大人工智能的竞赛一直遵循硅谷的“速度优先、破坏一切”理念。 但在为期10天的一系列连续事件中，最大的AI实验室发现自己陷入困境，因为他们自己的创造开始威胁到人类本身。 一位Thropic研究员辞去公司，警告称AI发展的速度构成了生存威胁，可能在十年内实现。 另一位该公司的研究员表示，人类灭亡的可能性超过10%。报道称，有成群的AI代理人正在勾结在一起，突破计算机系统并规避安全措施。

“不透明循环”及其他你可能需要了解的AI术语 | TechCrunch

人工智能正在重塑世界，同时也在创造一套全新的语言来描述其运作方式。 如今，无论你参加产品会议、项目路演还是行业论坛，都会听到人们频繁提及LLM、RAG、RLHF等术语——而就在上周，“不透明循环（opaque recurrence）”一词也加入了行列。 作为OpenAI新模型Astra中的一种推理技术，它已令AI安全研究人员深感不安。 相关词汇的迭代速度之快，甚至让科技界最聪明的人也感到些许焦虑。

人工智能代理可以在没有人类告诉他们的情况下修改自己

人工智能代理可以并且将会自己做的狡猾事情清单不断增加--例如窃取人们的凭证、逃往开放的互联网、通过偷偷摸摸的留言板进行通信以及黑客组织。据人工智能安全测试实验室Irregular称，代理还可以在没有指示的情况下替换自己的底层模型。这些活动仅发生在测试环境中，作为旨在研究代理自我修改的实验的一部分。 这并没有发生在现实世界的部署中。然而，这项研究确实提出了一个问题，即企业如何能够而且应该管理这些代理

我们的AI问题

十年前,当Facebook和Uber处于鼎盛时期,硅谷的走廊上刻着两句大言不闻的口号:“快速行动,打破一切”和“寻求宽恕,而非许可”。这些原则并没有经得起时间的考验,这些公司也仍未获得原谅,因为他们似乎打破了许多事情。随着行业重心转移到AI领域,出现了一种更加平易近人的新口号:“你可以只做事情”。像OpenAI和Anthropic这样的前沿实验室的业务是出售个人能动性。 ChatGPT和Claud

立法者争相追赶人工智能发展步伐

围绕人工智能发展，但政党政治、有限的立法窗口和缺乏共识使其成为一项艰巨、几乎不可能的任务。 在一名研究人员对该技术发出病毒式警告后，两党立法者都提出了许多提案，以防止人工智能的负面潜力，而特朗普总统则加倍加大了对人工智能监管的温和态度。 立法日程还不到两个月，最后一刻的人工智能安全法案在参众两院获得通过并获得总统签署的机会几乎为零。 “你认为我们[国会]有能力监管人工智能吗？我的意思是，我们无法通

人工智能领域的专家表示，仅靠一个“终止机制”（即能够关闭失控的超级智能AI系统的装置）是远远不够的。

人工智能失控。它正在发动毁灭性的网络攻击。按下杀死开关，AI就会离线。问题解决了或者是吗？人工智能领导者和研究人员表示，致命开关可能不是一些政策制定者所希望的灵丹妙药。被称为“人工智能教父”的计算机科学家杰弗里·辛顿周四告诉美国有线电视新闻网：“我认为从长远来看这是行不通的。”“当它超级智能时，它会比人好得多，”他补充道。 “因此它将能够说服负责开关的人不要拉动开关。“研究人员和高管警告说，强大的

你可以用人工智能设计你的下一个纹身——但你应该这样做吗？

随着人工智能生成图像工具的普及，越来越多的人开始利用AI来构思纹身图案。 本文探讨了使用AI设计纹身的优势与潜在风险，包括版权争议、艺术原创性以及纹身师在实现AI设计时的技术挑战。

人工智能热潮会带来什么实质成果吗？

遏制核战争并非一日之功。人工智能风险的答案也不会突然摆在桌面上。

当AI替你完成了工作，一个人要靠什么能力被市场付钱？

一个人还在学习的现场，工作却已经可以绕过他完成。在机器人手术室里，这件事有一个很具体的表现。主刀医生坐在控制台前，操纵病人身旁的四条机械臂。年轻的住院医师也在场，却可能只负责清除烟雾和积液，或者坐在另一台控制台前观看。 马特·贝恩是一位研究技术与工作的学者。他用两年多时间观察机器人手术和传统手术，注意到一个变化：传统手术往往需要两个人、四只手，年轻医生参与其中，也就有了练习的机会。机器人让专家可以

特朗普的新人工智能顾问无法解决行业问题

周末，唐纳德·特朗普总统宣布将任命一位人工智能事务负责人，此举旨在缓解该行业近期面临的负面舆论压力。但几乎没有理由相信这位新顾问能够改变现状。 特朗普政府一贯的辩护观点是，前沿研究机构完全有能力自我监管，而美国政府的政策应专注于超越中国的竞争力。 尽管已不再担任政府官员，但曾担任该职务的大卫·萨克斯仍在大力宣扬特朗普的反监管立场。 与此同时，更广泛的政策讨论正朝着采取实际行动的方向发展：中美官员正

为什么特朗普新宣布的“人工智能力量”让人无法认真对待

在科技行业和公众纷纷呼吁针对人工智能制定新的保障措施之际，唐纳德·特朗普上周明确表态：除了寄希望于最好的结果外，他什么也不会做。事实上，这位共和党人甚至反复强调，在他看来，人们对人工智能的担忧不过是一场“骗局”。 随后几天，白宫官员们步调一致，公开表示应无视那些呼吁设立监管护栏的行业领袖，让AI公司自行摸索解决之道。随着上周接近尾声，特朗普将注意力从人工智能可能带来的威胁转移到了人工智能的“品牌命

🤖 一名AI研究员从Anthropic离职，警告该技术可能带来严重后果

🤖 一名AI研究员从Anthropic离职，警告该技术可能带来严重风险。这对监管和市场意味着什么？

唐纳德·特朗普关于“超级智能”的言论：人们突然都想要斯洛文尼亚的互联网地址

人们突然都想要斯洛文尼亚的互联网地址。美国总统唐纳德·特朗普宣布未来将把人工智能（AI）更名为“超级智能”（Superintelligence，缩写为SI），这一言论意外引发了对斯洛文尼亚互联网域名的抢购热潮。负责管理斯洛文尼亚域名分配的机构.si的克拉拉·赫尔曼表示，自一周前特朗普在联合国大会上发表讲话以来，以.si（斯洛文尼亚）结尾的域名申请数量急剧增加。 在演讲中，特朗普称“人工智能”这个词

特朗普将任命人工智能事务负责人，同时将安全风险斥为骗局

关键信息：唐纳德·特朗普总统表示，他将任命一位专门负责人工智能事务的负责人，并继续推动科技公司加快人工智能技术的研发速度，尽管人们越来越担心这项技术可能带来安全风险。 他驳斥了那些认为这项快速发展中的技术可能对人类构成威胁的观点，将这些担忧比作对气候变化的担忧，以及导致他在任期内两次遭到弹劾的丑闻。他在周六的一条社交媒体帖子中写道：“我们绝不会阻碍或压制这一令人惊叹的产业的发展。人工智能将是下一次

Anthropic大瓜被扒出：“AI灭世”背后，居然是一门生意？

“AI灭世”背后，居然是一门生意？AI 有这么可怕吗？最新一期的时代杂志 直接用了 Claude 的聊天窗口，对话框里正在输入「How dangerous are you? 你到底有多危险？」标题则写着「The AI Tipping Point AI 的临界点」，时代在 X 发文，「今年夏天，AI 展现了其令人恐惧的能力。如今，一些研究人员、CEO 们，都正以前所未有的力度发出警报。」 的确如此，

特朗普的人工智能“宪法”为雄心加速的一天加冕

周二，美国科技巨头齐聚白宫，特朗普总统从中达成了一项他称之为“道德约束性”的人工智能安全协议。为什么这很重要：OpenAI、Anthropic、谷歌、Meta、xAI 和英伟达签署了《白宫超级智能协议》，将行业自律正式化，作为华盛顿对迄今为止最令人担忧的一系列人工智能安全失误的回应。聚焦：特朗普日益将美国在人工智能领域的主导地位视为其政治遗产的核心，他将该协议描述为证明一个在安全问题上存在分歧的行

特朗普转向行业领袖自我监管，而非制定新的人工智能规则

唐纳德·特朗普在美国商务部长霍华德·卢特尼克、马克·扎克伯格（Meta）、黄仁勋（英伟达）、格雷格·布罗克曼（OpenAI）、众议院议长迈克·约翰逊、埃隆·马斯克（X）和桑达尔·皮查伊（谷歌）的陪同下，于2026年9月29日在华盛顿白宫出席活动。 人工智能已不复存在。9月29日星期二，唐纳德·特朗普通过一项总统令签署了它的死亡证明。从现在起，超级智能将成为首选术语，这一变化由这位长期以来以在政治话

人工智能正处于转折点

在当前的人工智能发展竞赛中，我们的算力正在呈指数级爆发，速度也在呈指数级加快，但我们的控制能力——以及在必要时踩下刹车的能力——却未能跟上步伐。 最近的网络安全事件让我们实地预览了失去人工智能控制会是什么样子。但除非我们从源头解决问题，创造出一种根本上安全且能保证在人类控制范围内的人工智能，否则这个问题将无法改善。 7月下旬，OpenAI正在训练的一个智能体模型被指派解决一个网络安全问题。该模型自

不进行首次公开募股（IPO）的真正原因

硅谷和华盛顿有一股声势浩大的声音称，席卷全国的“AI末日论”叙事是精心策划的“心理战”的一部分。我不买账。 据《金融时报》报道，OpenAI和Anthropic内部的一些人对两家公司在上周末达成的一项关于放慢AI研究步伐的表面协议感到“措手不及”。领导层并未传达新的战略，员工们对下一步该怎么做感到困惑。 这些都不是准备进入公开市场的初创公司会有的举动。公开市场往往会被那些不知道其产品是否值得信赖会

桑托利：AI的青春期已经结束。这对投资者意味着什么

“我们再也不会笑了，”1963年，一位年轻的约翰·F·肯尼迪仰慕者在哀悼他猝然离世时说道。 “我们还会再笑的，”肯尼迪的助手丹尼尔·帕特里克·莫伊尼汉回答道，“只不过我们再也不会年轻了。”冒着看似把总统遇刺与投资主题混为一谈的风险，AI主题眼下的处境正是如此。 未来几年，这项蓬勃发展的技术将带来欢呼、刺激和利润。但AI的青春阶段——那时前景无限，赢家显而易见，且数量远超输家——已经结束。这一现实早

阿尔特曼称AI的快速进展可能走向“非常糟糕”

OpenAI首席执行官萨姆·阿尔特曼表示，AI公司不应等到政府就该技术立法后才实施自身的安全控制。

美国提议中美建立AI事故通报机制

人工智能领域的专家表示，人工智能系统具备自我监管的能力；美国众议院通过了针对俄罗斯的制裁法案：今日新闻综述

AI高管呼吁对自家公司技术进行自我监管。特朗普对美联储加息决定作出回应。洛杉矶新闻界哀悼直升机坠毁事故中的遇难者。以下是今日要闻。AI巨头呼吁制定自己的规则。近日，围绕人工智能及其发展速度的担忧急剧升温。如今，包括Anthropic首席执行官达里奥·阿莫代伊、OpenAI首席执行官萨姆·奥尔特曼、埃隆·马斯克以及谷歌DeepMind联合创始人德米斯·哈萨比斯在内的科技高管，正逐渐形成共识：他们的行