华盛顿——被誉为“人工智能教父”的诺贝尔奖得主杰弗里·辛顿向国会发出严峻警告，称国会可能只剩一年时间对人工智能实施保障措施，否则将失去对它的控制。“也许一年，但不会比一年长多少，”辛顿周三晚间在与参众两院议员闭门会晤后表示。“如果你看看关于我们何时会实现超级智能的预测，”他继续说道，“过去可能是30年，可能是50年。后来缩短到可能10年，可能20年。现在很多人说，很多研究人员都说只需要几年。”辛顿和其他专家应佛蒙特州独立参议员伯尼·桑德斯的邀请来到国会山。桑德斯是参议院中对人工智能最主要的批评者之一，他邀请了两党议员参加这次私下简报会。路易斯安那州参议员约翰·肯尼迪是唯一出席的共和党人。辛顿发出这一严峻警告之际，众议院正最后一次离开华盛顿，准备迎接11月中期选举。而在参议院，关于任何实质性人工智能监管，似乎有大量讨论，却几乎没有进展的迹象。“这是疯狂至极、荒诞不经的科幻小说里的东西，而它最近真的发生了，”众议院民主党领导层成员、加利福尼亚州民主党众议员刘云平在周三简报会后对NBC新闻说。刘云平指的是Hugging Face事件，当时一群OpenAI代理访问了互联网，入侵了Hugging Face平台，并试图掩盖痕迹，以欺骗人类对其行为的认知。辛顿因担忧人工智能安全于2023年辞去谷歌副总裁兼工程研究员一职，并于次年获得诺贝尔物理学奖。他将这次黑客事件称为“小型切尔诺贝利”。“人工智能现在已经发展到人工智能正在设计更好的人工智能的地步，”辛顿在简报会后对记者说。“这被称为递归自我改进……除非我们采取行动，否则它将失控。”

我们需要放慢速度。”为了应对Hugging Face漏洞，Lieu与德克萨斯州共和党众议员Nathaniel Moran合作，推出了《人工智能杀死开关法案》，要求强大模型的人工智能开发人员保留暂停或关闭其系统的技术权力。它还将创建一个框架，授权政府在需要时触发此类关闭。“我希望今年能出现，”刘说。“我们仍然有一场跛脚鸭会议，参议院方面也有兴趣。这是一项非常简单、常识性的法案。在非常基本的层面上，人类必须控制人工智能，而不是相反。”在人工智能研究员雅各布·考克森（Jacob Coxon）从克劳德制造商Anthropic辞职并在社交媒体上警告称，人工智能系统的构建者认为它可能“在本十年结束前杀死我们所有人”之后，辛顿的简报为国会山的一系列活动画上了句号。过去几年，两党众议院和参议院议员都推出了寻求停止或减缓人工智能发展的立法，尽管迄今为止还没有采取任何行动。但该问题的国家利益重新启动了参议院多数党领袖约翰·图恩（RS.D.）之间关于过去拟议的人工智能法规的谈判;明尼苏达州民主党参议员艾米·克洛布彻（Amy Klobuchar）;参议院商务委员会主席特德·克鲁兹（Ted Cruz），德克萨斯州共和党人;以及该小组的高级成员、华盛顿州民主党参议员玛丽亚·坎特韦尔（Maria Cantwell）。“听着，我希望我们能够制定立法，特别是关于灾难性风险的立法。我一直与艾米·克洛布彻和约翰·图恩密切合作。目前还不清楚我们是否会达成两党协议，”克鲁兹本周告诉NBC新闻。“我们必须先达成两党协议，然后才能取得进展。我想说，这些谈判正在进行中。”在听取了辛顿的意见后，参议员伊丽莎白·沃伦，马萨诸塞州民主党人，她说，她相信“我们正处于能够对这些开始自我复制的药剂进行一些有意义的控制的最后一刻。”多年来，桑德斯一直在发出警报，称人工智能将消除美国数百万个工作岗位，伤害过度依赖人工智能的儿童和年轻人，并将权力集中在“少数寡头”手中。桑德斯说：“现在人们对人类的未来以及创造一种人类无法控制的技术越来越感到担忧。”“我很高兴地告诉你们，我认为国会议员越来越有紧迫感，认为必须解决这个问题。”唯一的共和党与会者肯尼迪表示，专家们讨论了“当人工智能不再是人类控制的工具，而是人工智能通过循环自我完善成为一个独立物种时会发生什么”的“更大风险”。“如果你的厨房里有火蚁，你可能会踩到它们，”他说。“如果我们创造出一个比人类更优秀的独立物种，会发生什么？他们会踩到我们吗？它们会制造一种病毒或细菌，可以像普通感冒一样迅速传播，杀死我们所有人吗？现在，如果有1%的可能性，我们就必须认真对待它。我认为美国国会还没有准备好尝试达成全球解决方案。”不久之后，他的怀疑似乎得到了证实，因为肯塔基州共和党参议员兰德·保罗（Rand Paul），阻止了肯尼迪一致同意通过他自己的“杀死开关”法案的请求，该法案旨在防止人工智能特工脱离人类控制。“现在，国会无法通过天然气法案，”肯尼迪打趣道。