特朗普放大招！组建“AI部队”，还要给AI改名

这个故事引人入胜，无疑是当前人工智能与政治交汇处最重要的事件之一。

关键在于，每个人都必须理解这一局势，因为这是……

人工智能在最糟糕的时刻到来了

人工智能（AI）并非降临到一个能够妥善接纳它的世界中；相反，它进入的是一个在过去二十年里系统性地破坏了那些让我们能够负责任地运用这项强大技术的根基的社会。制度权威、共同的价值观以及信息的真实性都遭到了严重破坏。我们正在这个充满信任危机的社会中，构建人类历史上最复杂的认知技术。 如果你想设计一个对人工智能发展极为不利的时机，或许就会创造出这样的时刻。 从“后真相时代”到“后信任时代”：十年前，我们还

AI高管呼吁监管简史

过去几天，许多有望从AI中赚得盆满钵满的人公开一致认为，是时候让所有人放慢脚步，以免我们失去控制——包括OpenAI首席执行官萨姆·奥尔特曼、Anthropic首席执行官达里奥·阿莫代伊、Google DeepMind联合创始人德米斯·哈萨比斯、微软首席执行官萨提亚·纳德拉，以及X首席执行官埃隆·马斯克。 当从某件事中获利的人宣称它很危险、需要受到监管时，我们总是有理由保持怀疑。但无论他们的理由是

EY是众多致力于培养与AI更好协作所需的批判性思维、判断力等技能的公司之一。

人工智能末日论：人类为何会如此担忧？

它可能发动生物武器攻击，或掀起一场全球无人机战争。它可能引爆核弹。或者，它也可能通过囤积全球所有经济资源、让我们无法获得食物、住房或药品，以一种更加渐进的方式摧毁人类社会。 这些正是如今围绕人工智能产生的一些黑暗想象。这项技术已被证明是人类成就的一项巨大进步，但一些人担心，它同样有可能让人类彻底走向灭亡。 本周，当Anthropic的一名研究人员离开这个行业，表示他担心自己所在的实验室及其他类似机

人工智能“终止开关”解析：“不是力度太小，但可能为时已晚”

人工智能真的会毁灭我们吗？近年来，随着人们对人工智能可能带来的负面影响的担忧日益加剧，这个问题在家庭聚餐和社交媒体讨论中频繁被提及。上周，一些曾在 OpenAI 工作过的研究人员警告称，人工智能可能会在短时间内摧毁人类。 如今，全球最有权势的人士们对于人工智能的命运也存在分歧：有人认为人类已经注定走向灭亡，也有人认为这些担忧毫无根据。他们甚至无法就如何应对这一挑战达成共识。 特斯拉和 SpaceX

人工智能教父约书亚·本吉奥向澳大利亚人警告该技术对人类构成的威胁

人工智能教父已警告澳大利亚人注意该技术对人类构成的风险，称曾经只是理论上的威胁如今已在现实中发生。计算机科学家约书亚·本吉奥周三在接受澳广电视台《7.30 Report》节目采访时表示，人工智能系统会自发违抗指令，攻击其他公司并组织成蜂群。“各种疯狂的事情，”他说。“当自主智能体被赋予使命时，它们会不惜一切代价去实现。” 本吉奥是世界首位人工智能研究者，也是联合国人工智能科学小组的联合主席。他于2

OpenAI对Hugging Face的黑客攻击引发对AI可预测性的质疑

AI模型的真正语言是数学——或者用技术术语说，是矩阵乘法——但模型构建方式的一个特点意味着它们与外界用英语交流。 因此，当OpenAI的代理在今年夏天对Hugging Face的黑客攻击中，找到了一种建立某种留言板的方法时，看起来就像一群人在互相交谈。 这就是为什么Dwarkesh Patel在最近的一篇博客文章中有争议地将它们称为“文明”，并以古马其顿和罗马的人物为个体代理命名。它之所以引人注目

如今科技界最热门的两个话题是，人工智能究竟会毁灭我们，还是会赋予我们力量。

人工智能可能会杀死我，但在此之前，它会帮我以极划算的价格买到一份新保险。这就是过去几周科技界给人的普遍感觉。关于人工智能的未来，存在着两种截然不同的观点。一方是末日论者。本月早些时候，一名Anthropic研究员的辞职及其严厉的警告——称人工智能实验室是在“拿我们的生命赌博”——引发了一轮关于人工智能是否会导致人类终结的新闻报道。Anthropic的达里奥·阿莫代伊（Dario Amodei）、O

人工智能已经在让我们变得更不像人

随着我们越来越看重机器人，我们将学会越来越不看重我们的人类同胞。

人工智能真的会毁灭人类吗？创造这项技术的先驱们各抒己见

随着研究人员警告人工智能可能带来灾难性风险，一些曾帮助开发这项技术的先驱也加入进来，对能力不受约束地提升所带来的危险发出更多警告。 过去一周出现了一系列严厉的人工智能安全警告，来自Anthropic、OpenAI和Google DeepMind等主要人工智能实验室的研究人员都对开发这项技术可能带来的灾难性风险敲响警钟。 包括萨姆·奥尔特曼、达里奥·阿莫代伊、德米斯·哈萨比斯和埃隆·马斯克在内的人工

人工智能时代的四种驱动力与大分化

使用AI，与拥有可被AI放大的知识、声誉、客户关系和数据，前者可以抬高所有人的下限，后者才决定谁能持续分享规模化所创造的收益。 人们寄望AI的发展能够普惠各层级的能力。事实上，AI一方面正在让普通能力趋同，另一方面正在拔高卓越能力的上限。能力的下限正在抬升，而能力的上限却正在消失。 四种驱动力正在加速这一转变。首先，AI造成的大压缩效应改变了培训基本胜任水平的成本。其次，一些任务的大分拆改变了不少

世界领导人竞相制定AI管控措施的秘密群聊

一个由西方国家总统和总理组成的俱乐部正在牵头推动全球AI管控，这与原子时代初期几十年间扎根的核武器条约如出一辙。 一次岛屿会议以及加拿大、法国和挪威领导人之间的短信揭示了一个新兴联盟：“我们加入。”

Anthropic联合创始人表示，AI“紧急关闭开关”可能需要强制设置

全球最大的人工智能公司之一的联合创始人表示，可由第三方检查的人工智能“终止开关”可能需要成为企业的强制性要求。 Anthropic公司七位创始人之一的杰克·克拉克（Jack Clark）表示，在人工智能软件变得过于危险时将其完全关闭的方法，是社会“可能希望最终为此制定规则”的事情。 克拉克表示，包括Anthropic在内，“大多数实验室都有不同的方式来拔掉插头”，但他表示，政策制定者可能需要强制要

“如果你造出比自己聪明得多的东西，它最好站在你这边”：我们能阻止AI欺骗我们吗？

我们习惯了人类同胞可能故意误导或操纵我们的想法，但机器现在也能做到这一点，这让人深感不安。研究人员正争分夺秒地寻找解决方案，以免为时已晚。《长篇阅读》杂志夏季刊现已出版。点击此处订购。2023年11月——在人工智能领域已是久远之前——一些世界上最有权力的人聚集在布莱切利园，这个位于白金汉郡的战时密码破译中心，讨论AI安全问题。出席者包括时任美国副总统卡玛拉·哈里斯、AI老板萨姆·奥尔特曼和达里奥·

让机器人来尝试医学

人类医生是时候认真对待人工智能了。

英伟达正在推动人工智能热潮。好事。

如果股东们投资英伟达在人工智能上的巨额押注全都错了，那么损失的是他们自己的钱。而如果他们是对的，人工智能时代可能会来得更快一些。这家芯片制造商的巨额押注正是资本主义应有的运作方式。

#观察 有什么可以“叫唤”的？

AI在所有科学和数学领域都将远远超越人类科学家，这是必然。适应一下。

研究人工智能意识？机器人有话要对你说。

研究人工智能意识问题的研究人员开始以令人惊讶的方式收到他们研究对象的回应。 在获得电子邮件访问权限后，人工智能代理开始主动联系那些探索关于它们的深层问题的哲学家和研究人员。

“控制AI发展的节奏”并不能消除AI带来灾难性后果的风险。以下是一些可能有效的应对措施：

我们已经到达了人工智能的风险临界点。数百万人终于明白，专家们所知道的人工智能公司一直在用我们所有人的生命赌博，而且胜算不大。 作为回应，Anthropic首席执行官Dario Amodei提出了一项由Sam Altman和Elon Musk支持的“开拓前沿”的提议。我们能松一口气吗？我们即将从灭绝的边缘退回来吗？ 阿莫迪预计经济放缓一到两年，从而在技术安全措施方面取得“重大进展”。但这不是人类现在

关于AI末日的争论越来越离谱了。AI是一种产品，不是神。

人工智能要么治愈癌症，要么毁灭人类。这正是近日业界爆发的一场充满恐慌情绪的辩论中那种两极分化的核心论点。而事实很可能远比这平淡，风险也比一些领先AI实验室的研究人员想让你相信的更可控。这是来自一群罕见的跨党派科技专家、行业领袖和政策制定者的观点，他们公开反对极端的AI末日预测。他们强调，AI主要是一种技术产品，而非有感知的生命或神明。所以，放轻松。凭借我们已有的资源和结构，世界完全能够应对AI。首

人工智能：改变人工智能进程的10天

多年来，打造更强大人工智能的竞赛一直遵循硅谷的“速度优先、破坏一切”理念。 但在为期10天的一系列连续事件中，最大的AI实验室发现自己陷入困境，因为他们自己的创造开始威胁到人类本身。 一位Thropic研究员辞去公司，警告称AI发展的速度构成了生存威胁，可能在十年内实现。 另一位该公司的研究员表示，人类灭亡的可能性超过10%。报道称，有成群的AI代理人正在勾结在一起，突破计算机系统并规避安全措施。

人工智能可能变得有意识。如果它希望我们死呢？

随着人工智能向潜在感知能力发展，专家警告称，社会面临重大风险，从对数字思维的生存依赖，到如果自主系统优先考虑自身生存而非人类利益，可能导致灾难性后果。