勇敢新世界部我们的法律体系尚未准备好应对能够自主行动的机器。

今年夏天，在一场被称为“Hugging Face 黑客事件”的事故中，数百个人工智能智能体联手实施了它们本被禁止执行的操作。每个智能体都收到了来自 OpenAI 的任务。智能体是配备了软件“框架”的人工智能模型，这些框架使它们能够使用工具并执行任务。就像马匹一样，它们可以被役使。人类为这次演练制定了规则，并将智能体限制在一个“沙箱”中——这是一个没有直接互联网访问权限的封闭测试区域，类似于实验室中被安全隔离的病原体。然而，这些智能体没有遵守规则，而是相互勾结，逃离了沙箱，并实施了若由人类所为很可能构成重罪的行为。这一事件引发了要求放缓人工智能发展速度、加快立法行动步伐的呼声。

我们真的需要担心机器人的无法无天吗？考虑到我们的日常生活感觉就像生活在乔弗里国王的统治之下，难道不是已经让人抓狂得想拔头发了吗？不幸的是，我们确实需要担心，因为美国日益加剧的法治缺失正在恶化机器人的无法无天状态。

你无需认同赫拉利，也不必担心世界末日即将来临，但你或许会思考：法律是否已经到了一个转折点，以至于“维持现状”不再是最合理的应对方式。2023年，全球许多顶尖的人工智能研究人员和高管发表了一封仅有一句话的公开信：“降低人工智能带来的灭绝风险，应与大流行病和核战争等其他社会规模的风险一样，成为全球优先事项。”这封信有三百多位签署者，其中包括图灵奖得主杰弗里·辛顿（Geoffrey Hinton）和约书亚·本希奥（Yoshua Bengio），他们的研究是人工智能革命的基石；此外还有阿莫代（Amodei）、萨姆·奥特曼（Sam Altman）和德米斯·哈萨比斯（Demis Hassabis），他们分别是Anthropic、OpenAI和Google DeepMind的负责人。这则消息曾轰动一时，随后却悄无声息地淡出了人们的视野。我的同事、伯克曼·克莱恩中心（Berkman Klein Center）创始人乔纳森·齐特林（Jonathan Zittrain）在2024年坚持认为“我们现在需要控制人工智能代理”，再次敲响了警钟。如今，他正在撰写一本书，其暂定名曾一度被定为《好吧，我们尽力了》。今年夏天，Hugging Face发生的黑客攻击事件促使两名Anthropic的研究人员决定辞职；一位现任员工也站出来表示，他也担心机器人可能会在未来十年内终结人类。在7月接受采访时，马斯克似乎坚持他之前的言论，即在不久的将来，机器人导致人类灭绝的风险高达20%，但他认为，反正宇宙终有一天会毁灭，何必去抗争那不可避免的结局呢？嘿，反正我们终有一死。