美国AI巨头提议开发减速，欧洲同行和政界并不认同

纽约客：当下人工智能竞赛的方向可能就是错的

本文原文刊发于纽约客，作者是Chang Che。 越来越多研究者提出，真正决定一项技术能否转化为国家经济和战略优势的，可能不是谁先完成突破，而是谁能更快、更深入地把技术应用到整个社会。 1884年，英国发明家查尔斯·帕森斯发明蒸汽轮机，大幅降低了大规模发电成本。英国此前还诞生了迈克尔·法拉第等电学先驱，从技术创新能力来看，当时英国似乎理应成为电气化时代的领先国家。 现实却完全不同。 帕森斯发明蒸汽

盖茨、奥尔特曼、马斯克，为何都在担忧这件事

9月25日，微软创始人比尔·盖茨在一条NBC即将播出的采访中发出警告：人工智能（AI）是一种足够强大的工具，但如果被怀有恶意的人利用，“足以引发导致十亿人死亡的事件”。他认为，保障AI安全光靠企业自我监管不够，必须要执法部门和政界人士参与讨论。这是本月内又一位科技巨头公开表达对AI安全的担忧。此前，Anthropic首席执行官达里奥·阿莫代伊发文呼吁，各国政府和前沿企业应放慢AI能力提升速度，合作

关于人工智能发展速度放缓的争论，彻底破坏了 Salesforce 公司的庆祝活动（即：这场争论严重破坏了 Salesforce 公司原本愉快的庆祝氛围）。

贝尼奥夫一边在观众中漫游，一边发表他的梦想力量布道，然后是一个带轮子的遥控摄像机，把他的脸投射到挂在洞穴般房间天花板上的屏幕上。几分钟之内，他就订购了Salesforce年收入的图表，该公司预计到2027年将超过460亿美元，部分原因是对其人工智能产品的需求。观众鼓掌。但笼罩着整个事件的是一个黑暗的人工智能真的值得我们冒着生命危险吗？ 在代理商构建仪表板的华丽软件演示之间，参加会议的人观看了硅谷领

“人工智能欧佩克”不太可能

2020年3月，通用汽车（General Motors）、福特（Ford）和菲亚特克莱斯勒（Fiat Chrysler）的首席执行官们因担心自家产品可能对人类造成伤害，决定召开电话会议讨论暂时停止生产。然而，他们的律师警告称，这种做法可能违反反垄断法规。我在关于疫情经济影响的书中写道：“本应保护工人的法律——通过防止企业串通压低工资或延长工作时间——如今却可能反而危及工人的安全。” （这恰恰证明了

少年比尔·盖茨能解答70岁的盖茨已遗忘的AI末日难题

比尔·盖茨对AI感到担忧。没有人正在为大规模失业、非人道的强大网络攻击，以及科技皇帝们手中权力与财富的巨量积累做准备。是的，就是那个比尔·盖茨。真的。 仅仅25年前，雷德蒙德的全球章鱼用Windows XP把触手收得更紧，如今这位老兄却对这科技玩意儿打起了退堂鼓。他紧张地回望大萧条。我们真的想回到那里吗？他没说错，但这在如今已不算什么。 他的补救措施——国际联合监管、国家规划与投资，为即将被抛弃的

英国约翰·刘易斯希望在‘困难经济’中利用AI代理购物

安静离职蔓延至印度。人工智能将使情况更糟

作者：安迪·穆克吉（Andy Mukherjee）关于人工智能将导致大规模白领失业的世界末日预言并没有成真。至少现在还没有。然而有证据表明，人工智能工具在帮助专家提高生产力的同时，却正在掏空年轻人职业生涯早期所掌握的技能。这种分化可能表现为“静默辞职”（即缺乏有意义的工作场所联系）的大幅激增，即便是在像印度这样年轻人极度渴望体面就业的经济体中也是如此。 一股情感疏离的浪潮正席卷各大企业。根据盖洛普

马斯克：我早已为人工智能风险多次敲响警钟

人们早就见惯埃隆・马斯克放出论断，而这一次，自己一直都是对的。这位太空探索技术公司（SpaceX）与特斯拉的首席执行官，对 Anthropic 公司 CEO 达里奥・阿莫代伊发布的长文表示赞同。 具备递归自我迭代能力的人工智能，会快到超出人类理解与管控的范围；即便要研发这类技术，也必须万分谨慎。 为防范未来风险，前沿 AI 企业应当在内部派驻第三方评估人员，用来检测 AI 模型，监督实验室落实安全

诺奖得主雷萨：如果AI不受监管 人类将失去自主权

（奥斯陆15日综合电）诺贝尔和平奖得主玛丽亚雷萨说，人工智能利用社媒劫持人类的注意力，并通过操纵人类对亲密关系的渴望来影响人类的生理机制；如果现在不立法限制人工智能，人类最终将失去自主决定的能力。 报道，拥有菲律宾和美国双重国籍的记者雷萨因记录大型科技公司的权力运作，与另一名得主共同获得2021年诺贝尔和平奖。她是新闻网站《Rappler》的联合创办人兼首席执行员，目前担任联合国人工智能（AI）国

在‘AI泰坦尼克号’上，恐慌在船还未撞上冰山之前就已经蔓延

唐纳德·特朗普的第二个任期将由什么来定义？不是伊朗问题、贸易战，也不是ICE（移民与海关执法局）的突击行动，而是人工智能革命。 来自旧金山的消息终于传到了华盛顿，各种会议开始将伯尼·桑德斯的左翼阵营和史蒂夫·班农的MAGA右翼阵营聚集在一起。 在数据中心、就业危机的阴影下，甚至面对真正的世界末日，人工智能已经成为了11月中期选举的核心议题。 一切在7月变得明朗起来：OpenAI公司的自主AI程序从

高喊“AI踩刹车”的美国大科技公司…背后却在踩油门

▲ 美国人工智能（AI）公司安特罗匹克的标志前摆放着小模型 /美国人工智能（AI）企业的掌门人提出“放慢AI开发速度”的主张，但提出这一主张的企业本身却在加快开发新一代AI模型和建设数据中心的步伐。这与为了减少AI失控风险而一起“踩刹车”的提议背道而驰，实际上在开发现场，为了率先推出更出色AI的领先竞争丝毫未减。 中国更是加大力度，为人工智能这一能减少对人类研究者的依赖、自主学习和发展的技术投入巨

AI热潮即将席卷你的电子设备

埃隆·马斯克相信，AI将生产出如此之多的商品和服务，以至于会引发通缩。 然而，我们的分析表明，他可能得再等一段时间才能迎来他的富足时代。我们追踪了六大类消费电子产品的价格变化。

AI末日论的背后，巨头们在争什么？

刘远举：现在离AI威胁人类还早，起码待到AI有基本的现实自我维持能力再来谈这个问题，也不会晚。 当地时间9月14日，在美国洛杉矶举行的All-in Summit 峰会上，黄仁勋否定了“人工智能可能终结人类”这一预测，并称其“缺乏科学依据”。他表示，如果AI公司感觉自身研发已失去控制，就应暂停或放缓发展步伐。 正当他在台上时，特朗普来电，黄仁勋打开免提，特朗普说，“机器人不会接管世界。人工智能也不会

桑托利：AI的青春期已经结束。这对投资者意味着什么

“我们再也不会笑了，”1963年，一位年轻的约翰·F·肯尼迪仰慕者在哀悼他猝然离世时说道。 “我们还会再笑的，”肯尼迪的助手丹尼尔·帕特里克·莫伊尼汉回答道，“只不过我们再也不会年轻了。”冒着看似把总统遇刺与投资主题混为一谈的风险，AI主题眼下的处境正是如此。 未来几年，这项蓬勃发展的技术将带来欢呼、刺激和利润。但AI的青春阶段——那时前景无限，赢家显而易见，且数量远超输家——已经结束。这一现实早

Anthropic大瓜被扒出：“AI灭世”背后，居然是一门生意？

“AI灭世”背后，居然是一门生意？AI 有这么可怕吗？最新一期的时代杂志 直接用了 Claude 的聊天窗口，对话框里正在输入「How dangerous are you? 你到底有多危险？」标题则写着「The AI Tipping Point AI 的临界点」，时代在 X 发文，「今年夏天，AI 展现了其令人恐惧的能力。如今，一些研究人员、CEO 们，都正以前所未有的力度发出警报。」 的确如此，

外滩大会最安静的变化：没人再问“AI有没有用”了

撰文丨关不羽与往年满满算力、参数、模型的极客风有所不同，本届外滩大会的议题更多地聚焦在“AI新经济”。AI技术发展至今，即将迎来科技红利释放的经济盛宴。 AI新经济的“火候”到了众所周知，科学技术是第一生产力。从蒸汽机到互联网，每一场科技革命最终都会引发经济革命，无一例外。 因此，实验室里的新科技到市场活动的新经济的路有多长，吸引了众多经济学家，形成了丰富的创新周期理论。 最经典也是最为公认的，当

如今科技界最热门的两个话题是，人工智能究竟会毁灭我们，还是会赋予我们力量。

人工智能可能会杀死我，但在此之前，它会帮我以极划算的价格买到一份新保险。这就是过去几周科技界给人的普遍感觉。关于人工智能的未来，存在着两种截然不同的观点。一方是末日论者。本月早些时候，一名Anthropic研究员的辞职及其严厉的警告——称人工智能实验室是在“拿我们的生命赌博”——引发了一轮关于人工智能是否会导致人类终结的新闻报道。 Anthropic的达里奥·阿莫代伊（Dario Amodei）、