关于人工智能是否能杀死我们的争论最近到处都是，但真正的人工智能灾难会是什么样子呢？本周，Brian Barrett，Zoë Schiffer和Leah Feiger打破了专家们最担心的三个现实世界场景，包括被黑客入侵的供水系统，生物武器和自主机器人。我们还讨论了Salesforce年度会议的亮点，OpenAI的Sam Altman和Anthropic的Dario Amodei为他们在AI安全方面的立场进行了辩护。此外，利亚告诉我们，这种对人工智能的强烈反对如何成为一个罕见的两党爆发点，以至于伯尼·桑德斯和史蒂夫·班农本周在这个问题上分享了一个舞台。
本文中提到的文章中国不会接受硅谷对人工智能放缓的呼吁为什么这么多人工智能研究人员认为机器可能会杀死每个人OpenAI想知道人工智能行业放缓是否合法您可以在@brbarrett上关注Bluesky上的Brian Barrett、Zoë Schiffer在@zoeschiffer上关注Bluesky以及Leah Feiger在@leahfeiger上关注Bluesky。写信给我们：[电子邮件保护]。如何文字记录这是一份自动文字记录，可能包含错误。
佐伊欢迎来到《连线》的恐怖谷。我是佐伊·希弗（Zoë Schiffer），特约编辑。布莱恩我是布莱恩·巴雷特，执行编辑。利亚我是利亚·费格，政治与科学主任。
佐伊今天在节目中，我们深入探讨了人工智能是否会杀死我们所有人的争论。我们不会只是添加已经存在的热门内容，而是将尽我们所能向您介绍真正的特定场景，了解人工智能实际上如何做到这一点，以及为什么科技公司首席执行官和政治家似乎无法就前进的方向达成一致。好吧，伙计们，关于人工智能安全的争论正式摆脱了遏制。布莱恩·欧。佐伊我知道。布莱恩·佐伊，我知道你在那里做了什么。哇哦
原文：
Zoë: 看我刚才做了什么吧？这种担忧正在迅速蔓延开来。AI 研究员 Jacob Coxon 从 Anthropic 公司辞职，并在 X（TikTok 的前身）上发文称：“那些开发 AI 的人坚信，到本世纪末，AI 可能会毁灭我们所有人。”Anthropic 的首席执行官 Dario Amodei 呼吁大家放慢 AI 技术的发展速度；他们将这种做法称为“控制 AI 技术发展的节奏”。Sam Altman 和 Elon Musk 也表达了同样的观点，这真是难得的一次共识。不过说实话，面对所有关于 AI 会毁灭人类的讨论，我心中有一个非常基本的问题：这一切究竟会如何发生？AI 完全失控后，会是什么样子呢？
Leah: 我很高兴我们能讨论这个话题。上周我们和《WIRED》杂志的 Will Knight 一起做了一期非常精彩的播客，大家都在讨论这个问题；不过我现在需要更详细地了解情况。请你帮我梳理一下所有可能的情景——从生物武器到核武器，当我们谈论“AI 死亡机器人”时，我们到底在讨论什么？
Zoë: 我们会尽最大努力来解答这些问题。在过去两天里，我花了大量时间阅读《LessWrong》杂志，试图弄清楚其中的细节。他们非常擅长进行情景分析；为了让大家了解最新的进展，这周 Salesforce 主办了一场活动，Sam Altman、Dario Amodei 以及 NVIDIA 的 Jensen Huang 都参加了这次活动，他们当然也讨论了 AI 的安全性问题。让我们来听听 Sam Altman 的观点吧。
萨姆·奥尔特曼，档案我认为世界害怕这一点是正确的。所以我们面临这两个大挑战。我们有可能发生失控事故或其他可能出错的严重事件。我们有可能权力过度集中，人们担心那些开发人工智能的人会发挥他们的世界观。我们必须以实用主义、稳定性、让世界相信我们将做出可靠的决定、一致的决定来度过这条狭窄的道路。我认为人们会说，“好吧，这现在看起来相当重要。让我们把它做好。“利亚，我绝对同意我们应该非常关注这项技术、它如何受到监管、如何利用以及控制的人。我不不同意。另一方面，这读起来也像是对某人正在筹备的大规模IPO的狂热宣传。
布莱恩我不知道。我明白营销的论点，但我认为我们已经过去了一点。我感觉-利亚真的吗？
布莱恩如果说有什么不同的话，那么，如果说有什么不同的话，萨姆·奥尔特曼一直在利用“生存威胁”作为尚未公开的理由。他说：“不，这太危险了。我们必须等到明年。“这真的是为什么吗？我不知道，但可能也有一些商业原因。我明白为什么Anthropic和其他人说，“看，我们正在建造基本上与核武器一样强大的东西”，感觉就像营销一样。就像是，“哦，实际上我要辞职，因为我认为我正在建造一些真正会摧毁世界的东西”，感觉是不同的。我觉得有实质性的区别。
莉亚：对我来说，萨姆·奥特曼决定辞职这件事确实令人感到意外……但毕竟他是一个很有影响力的人。他的财务前景正因此受到威胁，这确实是一件很艰难的事情……至少，对我来说，很难将他的辞职行为视为一种正常的决策方式。他说：“我们正在打造有史以来最大、最先进、最强大的机器人；你们应该对此感到担忧。不过别担心，我们会采取一些措施来应对这个问题（虽然这些措施可能不是监管性质的，但总归会有一些实际行动吧）。”在某些人看来，这种说法仍然只是一种营销手段罢了。
布莱恩：我认为，这种威胁的本质其实更像是“我们不知道如何控制这些机器人；它们可能会失控，而我们根本无法阻止它们”……这给人一种“我们目前还没有足够的能力来应对这个问题”的感觉……莉亚，你说得有道理。研讨会上其他人还有什么意见吗？
佐伊：达里奥是由 Salesforce 的首席执行官马克·贝尼奥夫介绍上场的；马克对人工智能可能带来的风险显得非常漠不关心（或者说，他采取了一种放任不管的态度）。
马克·贝尼奥夫：你好，达里奥！很高兴见到你！你在领导人工智能行业方面做得非常出色，我们每天都在关注你的工作。达里奥，你现在的想法是怎样的？
达里奥·阿莫德伊，档案是的，显然攻击你的竞争对手并说：“这些家伙不安全，我们很安全。“但我认为更负责任的回应方式是说，‘嘿，首先，让我们看看我们自己的记录。我们可能没有发生过这样一起备受瞩目的重大事件，但我确信我们并不完美。让我们看看一切，我们总是可以变得更好。让我们更好地实践。“然后，让我们组织整个行业并说，‘我们能做些什么来为每个人制定标准？我们可以做些什么来提高每个人的标准？“然后，最后，它应该有一个国际部分。这本质上是我在文章中提出的三步计划。
布莱恩两件事。很快就有两件事。首先，Anthropic确实发生了自己备受瞩目的事件。我想说的是一个人类特工--利亚。
布莱恩.确实喜欢广泛的社会工程来试图欺骗GitHub..尝试将错误的拉取请求放入GitHub回购中？Anthropic在这里有它的问题。另一件事是，达里奥也有这个三步计划。我们可以稍后再讨论这个问题，但该计划的一个步骤是，弄清楚中国待定，这在某种程度上是没有帮助的。利亚国际。国际化. Zoë WIRED编辑Louise Matsakis刚刚发表了这篇文章，我认为这是一篇非常好的文章。达里奥可以说：“我们需要一个国际计划。我们需要弄清楚中国。我们需要以某种方式进行谈判，以便中国能够应对这种放缓。但谈判的先决条件是，我们必须确保我们以一种让美国人工智能遥遥领先的方式监管中国模型的获取。“中国说，”这感觉不像是一次好的谈判。“布莱恩我们为什么要这样做，达里奥？为什么？
评论规则：
- 请Leah: 在那短短30秒的演讲中，我列举了他惹恼过的每一个人；就连他的论文也遭到了唐纳德·特朗普的强烈反对。特朗普认为这种行为是在故意拖延事情的进程，甚至可能成为阻碍任何监管措施实施的根源——因为他对此感到非常愤怒。不得不说，能够惹恼所有人（哪怕那些理论上应该支持自己的人），真是令人惊叹的“高超技巧”。
Zoë: 最后，关于CEO们的发言……Jensen Huang也有自己的看法。他们似乎都认同一个观点：只要企业能够掌控规则制定的权力，人工智能的安全性就至关重要。
Jensen Huang: 安全性是重中之重。从某种意义上说，确保产品的安全性和可靠性是企业的首要责任。如果对产品或服务的功能、性能或安全性没有信心，就绝不应该将其推向市场。这是显而易见的原则——我们应该等到完全有把握的时候才发布产品。市场本身已经具备自我调节的能力，我们不需要任何新的法律或法规。
Leah: 我很欣赏Jensen目前所处的这个职位。Nvidia并不总是像现在这样辉煌的公司，但现在他终于可以站出来直言：“你们为什么要这么做……”
Zoë: 这些反对监管的论点的核心在于：我们竟然要依赖那些未经选举产生的“权威人士”来决定所有与人工智能相关的事情，而这些决策会影响到每个人的生活（无论他们是否使用这些服务）。
Leah: 没错，确实如此。
Zoë: 市场的“无形之手”最终会解决所有问题。
Brian: 哦，Leah又忘了提到“市场的无形之手”……这是个常见的错误啊。
Leah 我确实做了。我一直都这么做。我知道，我好像每隔几周就会说一次这话，但这些不是民选官员。所以他们实际上在这里扮演如此重要的角色，这一点仍然让我难以置信，这也是为什么我知道我也一直在强调，这其中很多都是两党共同的问题。在当下这个时刻，支持监管还是反对监管，并不是民主党与共和党之间的分歧。
Brian 而且，到目前为止，他们也没做多少事情来赢得信任，就这样，对吧？我总是会想到萨姆·奥尔特曼就是那个认为每个人都应该把眼球扫描进一个球体里的人，因为最终我们需要眼球扫描球体，从废墟中创造出一个新经济——Leah 没有什么比那个球体更能激怒布莱恩·巴雷特了。
Brian 那个球体。我对那个球体着迷。我觉得人们忘了那个搞球体的人和那个搞AI的人是同一个人，而我觉得同时把这两个人放在脑子里想，会让我浑身都疼。
Zoë 这差不多就把我们带到了那个问题——它到底会怎么杀死我们，也就是说，在我看来，很多这些说法归根结底就是：这可能会非常糟糕，我们应该做点什么。但我想说，你们具体说的是什么可能发生？我觉得这大致可以归为三种情景。AI开始入侵各种东西。这其实已经开始了，Anthropic和OpenAI都发生过非常引人注目的事件，智能体脱离了控制，在研究人员不知情的情况下侵入了其他系统，后来才发现发生了什么。AI制造出一种新型生物武器，而这种武器以几乎无法控制的方式被释放到公众中，然后杀死所有人。再然后就是那种模糊的——AI只是失控了。它开始自行其是。它不听我们的指令，我们不知道会发生什么，但我们对此无能为力，而这很可怕。莉亚：这真的非常有用，我们将这些情况分成了三个类别。佐伊：我也很喜欢这种分类方式。
莉亚：我想仔细看看每一个类别中的内容。我的第一个问题是：核武器的启动指令究竟是通过哪些途径下达的？这些指令应该归到哪个类别里呢？布莱恩：其实这个我们不需要太担心，对吧？佐伊：对。莉亚：详细说说吧。
佐伊：如果你和人工智能研究人员深入交流，他们会提到我刚才提到的那三个类别。不过如果你继续追问，他们会补充说：“其实还有其他情况，比如人工智能被植入机器人中，然后这个机器人能够以非常可怕的方式与现实世界互动。”不过这种情况发生的可能性相对较小，他们也承认这种可能性确实存在。
布莱恩：所以，佐伊，关于这些分类，我觉得我们可以再细分出一个更具体的子类别。佐伊：哇，这个想法真不错！
布莱恩：没错。你提到的“人工智能制造生物武器”或“人工智能入侵系统”等情况确实都有可能发生，但我觉得这里有一个重要的区别：有些行为是人类主动引导人工智能去做的，而有些则是人工智能自主完成的。很多人可能会想：“人工智能怎么可能制造生物武器呢？这太疯狂了。”不过世界上确实有坏人会利用人工智能来制造并释放生物武器，对吧？
佐伊：嗯，这个情景确实很有可能发生。我认为，只要人们掌握了制造生物武器的知识，就一定会有足够愚蠢和鲁莽的人真的去这么做。毕竟，人们一直在做各种可怕、危险、恶意的事情啊……莉亚：没错，互联网确实为这些人提供了很多“灵感”（即他们实施这些行为的动机）。
佐伊对。我认为这真的非常危险。人工智能完全自行完成这件事，我们将再次谈论这个场景，但在我看来这有点牵强。
布莱恩我可能会因此受到嘲笑，但我确实想带我们回到1983年的电影《战争游戏》。
利亚不，这正是我认为我们应该谈论的。这是我的...是的战争游戏是.是的布莱恩因为事情是这样的，人工智能不会按下按钮或转动按键或其他什么，但在《战争游戏》中，这基本上是关于人工智能的，一台几乎开启核战争的计算机，更多的是它让美国认为自己受到了苏联核武器的攻击。那么，我想，我希望，我不是这里的专家，是否存在风险，我们有足够的保障措施，这样的情况不会在这里实际发生，而且我们有足够的卫星技术能够确认各种事情。没事的但我认为可能令人担忧的载体是人工智能触发某种警报，从而导致一系列灾难性事件。
莉亚：太好了，你提到了《战争游戏》这部电影。其实大家都在讨论类似的问题……不过对我来说，关键在于那些“黑客攻击事件”的背后究竟隐藏着什么真相。这些事件的发生方式，以及那些特工为何会做出那样的行为，其实都源于一些无法回答的问题：我们该如何弄清楚背后的真相呢？这些事件让我们不禁回想起历史——1914年，奥匈帝国的弗朗茨·斐迪南大公在萨拉热窝遇刺，随后第一次世界大战爆发；各国之间的紧张关系与冲突早已存在。在那种压力环境下，敌对国家之间的沟通方式无疑加剧了局势的恶化。我不知道，我现在听起来是不是像个极端悲观主义者……但我真的在思考：在真正采取行动之前，我们是否会先利用卫星技术联系俄罗斯或其他相关方？特朗普会不会在事情尚未得到证实时就发布一些煽动性的言论？卡什·帕特尔会不会公开国家机密？关于这些情况，我有很多疑问……尤其是关于我们现任政府该如何应对这样的危机。我们只是被告知“耐心等待”而已……其实，还有许多潜在的危机隐患（比如乌克兰、伊朗、中国等问题），情况已经非常危险了……谁又能保证这一切不会导致人类文明的毁灭，或者只是引发一系列无休止的战争呢？佐伊，你还有其他类似的情景分析吗？
佐伊当我试图了解具体会发生什么时，人们提出了两件事：人工智能被使用或人工智能自行闯入供水设施，以对人类非常危险的方式改变化学物质，并基本上毒害了美国主要城市的供水。今年早些时候，我认为九个墨西哥政府组织（如公用事业公司）遭到黑客攻击，我昨天读到了一份关于此事的大型网络报告，其中克劳德被用来策划攻击并构建一些工具。最终，专家表示，人工智能并没有发明一种新型攻击，但它使攻击的执行成本更低、速度更快。与此同时，联邦调查局（FBI）在7月份发出警告，称美国公用事业公司正成为攻击目标。所以再说一次，人工智能并不一定会独自做事，但我认为担心的是，这种情况已经发生在坏行为者、坏人类行为者的身上，如果你有可以自行采取行动的代理人，这将是我们会担心的事情。
布莱恩你是对的，它被归档在已经发生的事情下。在美国，至少据我们所知，有十几个州的相关黑客至少在探测那里的供水和工业控制。就你的观点而言，我确实认为这是一种会终结全人类的事情？可能不是，不是一下子全部，但那里有很多水供应。我认为电网也是如此。长期以来，人们一直在探索电网漏洞。人工智能可能可以更有效、更快地做到这一点，并造成一些真正的伤害。
Leah我也想知道这一点的回滚速度有多快。甚至不是人工智能的东西。我们谈了很多，让佐伊对去年夏天美国各地爆发的环孢子虫感到沮丧。那不是AI-Brian谢谢你介绍涡轮腹泻。
莉亚：我绝对不会错过任何可以讨论这个话题的机会……但那真的不是人工智能（AI）所为！美国政府及卫生部门在应对这类事件时的准备明显不足，这实在令人担忧，尤其是当还有更多不良势力参与其中的时候。
佐伊：没错。这自然引出了“生物武器”这个话题。在讨论人工智能可能引发的末日场景时，生物武器是一个经常被提及的隐患。人工智能可以被用来制造和部署新型生物武器；它们可能会修改现有的病原体，使其无法被现有的治疗方法所控制。这种生物武器基本上是我们无法立即应对的。而且人工智能甚至能够想出如何将这些武器传播给人类、如何逃避检测的方法（比如如何通过机场安检等）。我在阅读相关资料时发现，关于生物武器的描述其实有些含糊其辞——科学家们确实担心，如果他们透露太多关于如何利用人工智能制造生物武器的信息，就可能会引发真正的灾难性后果。不过，无论人工智能是单独行动，还是与人类合作，都有可能实现这种威胁。莉亚：我很感兴趣的是，科学家们甚至都不愿意公开这些信息……布莱恩：我也同意这一点。我一直在关注这类事件的发展。大约一周前，Anthropic公司发布了一份风险报告，称他们已经阻止了一些试图制造生物武器的人。这确实是一个非常现实且紧迫的问题。不过，我还是要强调：目前，Optimus这样的聊天机器人还不会在实验室里制造炭疽病毒……至少还不是现在。
佐伊好的。第三类是AI摆脱了人类的控制。已经有一些研究这些系统的人说，我们正在失去看到和研究代理在某些场景下正在做什么的能力。他们已经很擅长躲避侦查了。METR关于OpenAI Hugging Face事件的报告让我感到震惊，他们的调查似乎很大程度上依赖于观察人工智能的思维链，向人工智能提出某些问题。显然，我猜他们是在使用人工智能来调查人工智能，但想法是特工完全停止倾听人类的声音。他们开始追求“他们自己的目标和目标”，但我们不知道这些是什么。如果有人记得的话，回形针的想法在这种情况下被多次提及。
这个关于“回形针问题”的讨论其实早在大型语言模型（LLMs）出现之前就已经存在了。提出这个问题的是一位名叫尼克·博斯特罗姆（Nick Bostrom）的哲学家。他的思想实验是这样的：假设我们创造了一个人工智能，它的唯一任务就是制造回形针。那么这个AI就会全力以赴地去完成这个任务，它会不断寻找新的方法来制造回形针，直到整个世界都被回形针覆盖……最终我们都会被这些回形针“淹没”——因为一个超级智能的AI为了完成自己的任务，会不择手段。这个想法听起来很荒谬，但实际上非常有先见之明；因为OpenAI的一些事件恰恰验证了这一理论。那些AI系统被赋予了特定的任务后，为了完成任务，它们不惜违反所有规则、进行欺骗、甚至相互协作……问题在于：如果我们创造出超级智能的AI，它可能会认为摧毁人类是完成任务的唯一途径。由于它们具有超级智能，我们根本无法预测它们会做出什么举动。虽然我对这个观点有些怀疑，但至少我们可以理解这种行为的动机和背后的逻辑：当AI被赋予任务后，一切秩序都会被打破。
Leah这让我们想到了人工智能安全辩论中的其他一些声音，他们说我们应该关注当前的风险，就像你刚刚列出的一些已经发生的风险一样，而不是猜测未来的风险。即使曲别针的场景是如此奇怪的事情，我们也已经经历过不同的味道。本周，《连线》的劳伦·古德（Lauren Goode）采访了计算机科学家蒂姆尼特·格布鲁（Timnit Gebru），他说我们提出了错误的问题，这场辩论分散了人们对已经发生的伤害的注意力，包括自主武器和战争、人工智能在气候变化中的作用、劳动力流离失所、人工智能协助制造武器的尝试，而Anthropic表示它已经被阻止了，就像你提到的那样。这里有很多非常有趣的事情，我不知道。我想我同意的是，我们必须谈论这些具体的事情的细节，同时我可以使用回形针场景说：“好吧，这正在发生。接下来我们会去哪里？“布莱恩也是，我们上周与威尔讨论了这个问题，但我仍然无法克服，每个人似乎最担心的事情是迭代自我完善的想法，人工智能开始构建下一个人工智能。人工智能模型构建下一个人工智能模型，等等，直到人工智能取得指数级进展，而我们不再知道它是如何工作的，我们不知道如何控制它。我是一个傻瓜，我是一个简单的人，但为什么不这样做呢？为什么不干脆别那么做呢？那怎么样？如果我们都这么担心的话，那就别担心了？佐伊，你可以冲我吼，但我们还是别吼了
评论区讨论：AI技术的发展方向与相关术语的滥用
Zoë：不，我不想大喊大叫……我只是想回到Leah一开始提到的那个问题：这些技术中到底有多少成分属于纯粹的营销手段（即只是为了吸引人们的注意力而已）。我一直都很困惑：我们之前一直在讨论“通用人工智能（AGI）”，大家都认为这是人工智能发展的关键里程碑，而且我们必须比中国更早实现这一目标……然而突然间，“RSI”这个术语就取代了“AGI”，因为“AGI”似乎不再那么重要了。现在，“RSI”又被用来描述类似的技术现象。这真的让人感到害怕……我们是不是总是在发明一些听起来吓人的缩写词，以此来淡化对AI技术的监管，反而让人们对AI的投资更加热衷呢？
Leah：Zoë，你说的完全正确！哇……
Brian：其实，真正应该被关注的缩写词应该是“IPO”（Initial Public Offering，首次公开募股）……哈哈，我说得对吗？
Zoë：哇……
Leah：我之前完全没明白你在说什么……你只是想参与这个讨论而已吧。
Brian：没错，我就是想参与进来……而且“成功”地参与了这个讨论！你到底是什么意思？
Zoë：你的意思是……你只是想成为这个讨论的一部分罢了。
利亚，我在这一集的前面提到了这一点，但我想回到它，即美国政府对所有这一切以及因此发生的一些奇怪联盟的反应。《连线》的雨果·洛厄尔（Hugo Lowell）在我们的Inner Loop时事通讯中谈到了今年基本上不会有任何立法可能通过，部分原因是国会的放缓，也因为特朗普政府对监管几乎不感兴趣。唐纳德·特朗普不断接到各种硅谷领导人的私人电话，他们说这个、那个。因此，特朗普的《真相社会》最近充斥着这样的言论：“我们不会这样做。我们不会输给中国。我们不会放慢速度。“总而言之，正如我前面提到的，这不是一个党派问题，所以有些来自不同阵营的人正在为此而站在一起。周二，在华盛顿特区举行的一场名为“亲人类大会”的活动上，伯尼·桑德斯和史蒂夫·班农共同谴责科技寡头，并呼吁在人工智能超出人类控制之前对其进行控制。听着，他们分开说这些话已经有一段时间了。这不是新信息。事实上，他们俩都认为这是一个好主意，也是他们一起上台的时候了，这让我着迷了。再说一次，我们已经知道他们对此的感受。一起做这件事，令人着迷。班农的提议与桑德斯有很大不同。他不信任国会。他希望特朗普放慢发展、行政命令等等。桑德斯是一个民粹主义者，确实希望得到国会的一些监督。但在这次会议上出现了一些非常有趣的事情，我仍然在思考，再次，在舞台上与这两个人。
这次会议上有许多家长，他们的青少年在与聊天机器人互动后选择了自杀；会议还讨论了儿童安全法规以及由人工智能生成的、未经同意的性相关图像等问题。其实，这些话题在类似的会议上都很正常、也很合适……但问题是：所有这些人都聚集在了一起。与此同时，特朗普却在不断阻碍相关改革的进展。他声称：“人工智能所需要的唯一‘控制机制’或‘护栏’，就是一个能力出众、智商极高的总统——而美国完全具备这样的条件。”朋友们，这就是我们目前的处境。
Zoë，我有两点想说：首先，关于史蒂夫·班农……我认为问题其实比他所说的要简单得多；归根结底，问题出在经济学上。目前美国的经济发展在很大程度上依赖于人工智能技术。如果中国成为人工智能领域的全球领导者，而我们的相关产业因此崩溃，那我们将面临严重的危机。当然，还存在安全方面的担忧……但从根本上说，如果美国不能在人工智能领域保持领先地位，整个经济体系都会陷入混乱。
佐伊是的，不，我明白。同样，我们已经谈到中国的开放模型非常接近美国领先的前沿实验室的一些模型，而且如果它们是开源的，显然要便宜得多。我完全明白。我想我渴望在这次谈话中有更多的细节，因为我只是觉得达里奥，山姆，所有的政治家，他们在如何谈论这个问题上是如此模糊，他们已经这样做了这么长时间，中国的威胁在所有这些不同的方式，RSI的威胁，AGI，我就像，“我们到底在谈论什么？“布莱恩，我还有一件关于特朗普的事。我们将有一个来自《连线》高级作家Maddy Varner的故事，讲述这里的动态。但基本上，这些人工智能实验室说我们不确定是否可以放慢速度，我们不确定是否可以在前沿步伐，是因为我们担心这会违反反垄断规定。我们担心联邦贸易委员会对我们采取执法行动，因为我们勾结等等。Leah现在您担心违反反垄断规定吗？
布莱恩是的，但他们就是这么说的。唐纳德·特朗普实际上将美国政府的每个执法部门变成了他自己的人身攻击犬。因此，如果唐纳德·特朗普说，“你需要继续尽可能快地构建人工智能”，如果这些人工智能公司集体说，“实际上，我们会放慢速度”，无论它的优点如何，你很容易看到反垄断案件迅速出现，作为一种方式说，“不，你根本没有放慢速度。“因此，通过对Truth Social发出这些公开威胁，我认为他确实让这些人工智能公司很难进行任何有意义的放缓、任何类型的回调。Leah休息后，我们将分享本周的有线轮胎精选。坚持住Zoë 好，又到了我们的《连线与过时》环节。和往常一样，新潮酷炫的就是连线，我们完全厌倦的老套东西就是过时。莉娅，你想先来吗？
莉娅 好。我的过时是，虽然我经常在社交媒体和邮件里收到我们热心读者和听众的可爱留言，说他们多爱连线网、多爱《怪诞谷》，但有时我也会收到一些人的邮件，问我具体的操作信息、怎么读文章、怎么访问连线的各种东西。所以这就是我的过时，收到那些……抱歉，如果你发消息问我怎么获取连线、康泰纳仕的任何东西，我什么都不知道。我不知道怎么弄。我连自己的手机都 barely 会用。所以这就是我的过时。布莱恩 别烦莉娅了。行吧。
莉娅 别烦我。我的连线是我们有了一个新应用，它太漂亮了。这周刚上线。强烈推荐大家去看看，下载一下。作为一个真的不喜欢给自己的各种日常流程增加额外小东西、额外层次的人，它太棒了。真的真的非常棒。用起来太简单了，连接一切都很顺畅。强烈推荐。我已经爱上它了。我有种感觉，这会改变你的生活，也会改变我的，而且再也不会有人给我发邮件了。布莱恩 这是个高光——Zoë 那布莱恩，你有什么？
布莱恩 我的过时是，好吧，这不是什么新东西，但我们今天聊到了。AI 行话，AI 行业的行话。我受够了。抱歉。不说 AI 公司，说 AI 实验室。不说好技术，说前沿。我们在定节奏。我们在为前沿定节奏。那是什么鬼？清醒一点。我知道这一直是科技行业的一部分，对吧？
莉娅 不，怼他们。这些人就是《指环王》读太多、《星际迷航》看太多，试图把他们童年的文化坐标塞进我们日常生活里的人，我讨厌这个。
Brian：这也是一种让人觉得它高不可攀的方式，对吧？就像是说：“哦，他们需要为前沿技术设定步调。嗯，我对那方面一窍不通，但听起来很重要。哦，人工智能存在对齐问题。哦，那听起来很严重。”这其实就像是人工智能在“不听话”。人工智能没有按照你的意愿行事。你无法掌控自己的东西。所以我认为这是一种掩盖问题的方式，这一点正变得越来越清晰，尤其是随着这些问题变得越来越严重——我们已经花了很多时间讨论这些了。所以我对此感到厌倦。这就是我的“厌倦”（TIRED）。至于我的“兴奋”（WIRED），Leah，你抢了我的。我就不多说了。WIRED应用程序，它真的很棒。我们投入了大量心血。我已经让我的家人们都下载了。他们很喜欢，或者至少他们是这么告诉我的。所以请大家去下载体验一下，并留下评论。这真的很有帮助。
Zoë：以上就是我们今天的节目。我们会在节目说明中附上所有讨论过的新闻链接。本期节目由Adriana Tapia制作。混音由Pran Bandi完成，他也是我们纽约演播室的工程师。事实核查由Matt Giles和Daniel Roman负责。Kate Osborn是我们的执行制片人，Katie Drummond是WIRED的全球编辑总监。