最近，曾担任特朗普人工智能行动计划首席架构师的迪恩·鲍尔（Dean Ball）发表了一份“忏悔录”，承认自己曾淡化他明知可能“对人类造成非常非常糟糕后果”的人工智能技术的风险。他发表这篇论文的契机是人工智能失控能力的披露，今年夏天发生的一起令人震惊的事件就证明了这一点：OpenAI内部的一款实验性应用程序对一家名为Hugging Face的公司发动了未经授权的网络攻击。鲍尔的道歉贯穿始终的一个论点是，危险的“自主”人工智能代理的出现是不可避免的。“即使在最好的情况下，我们也可能什么都做不了来避免这个结果，”他写道。鲍尔目前是OpenAI的战略未来部门负责人，他承认美国民众对普遍存在的数字技术存在深刻的不信任感。

他没有探讨其根源，而是哀叹猜疑的气氛使得人工智能的“真正的失控事件”更难被预防。关于对人类生存构成威胁的技术创造的必然性论调有着悠久而多彩的历史。人工智能的一个密切的类比是核武器。制造原子弹的最初理由是为了在核竞赛中击败纳粹德国，这类似于美国在人工智能竞赛中必须超越中国的所谓紧迫性。一旦德国不再构成核威胁，其他理由便浮出水面，以确保一个具有不可抗拒的吸引力并因此显得势不可挡的项目得以继续推进。物理学家 J.罗伯特·奥本海默曾解释说：“当你看到一些技术上很诱人的东西时，你就会去做，而只有在技术上取得成功之后，你才会去争论该怎么做。” OpenAI 的萨姆·奥特曼将自己比作奥本海默——并将人工智能比作曼哈顿计划——引用了这位物理学家对科学进步必然性的信念。“技术之所以发生，是因为它成为可能，”奥特曼在一次采访中解释道。他甚至异想天开地说，他和奥本海默是同一天生日，仿佛暗示着他们命中注定要相遇。然而，科学或技术中没有任何事情是注定要发生的。创造可能具有自我主权的人工智能，就像制造原子弹一样，是一种选择。既然“警钟”已经敲响——这是 OpenAI 对 Hugging Face 事件的说法——我们能做些什么？我们能从历史中吸取教训吗？

一项建议，源于此次事件发生后进行的广泛事后分析，是创建一个类似于美国国家运输安全委员会的独立机构，负责调查飞机失事并向公众公布调查结果。飞机失事是显而易见的，并且有广泛的记录。相比之下，人工智能行业则在秘密中运作，从数据中心建设的保密协议到用于构建模型的数据的缺乏透明度。尽管如此，成立这样一个机构将是一个开端。第二个更具雄心的建议是，在国际上达成一致，放缓人工智能发展速度，并制定最低安全标准，这是人工智能行业许多人呼吁的举措。鉴于美国经济对该行业的依赖，这一举措可能会面临阻力。

但长远来看，其益处可能远远大于风险。历史上不乏暂停强大技术发展的先例。1975年，国际生物学家、律师和记者齐聚加州阿西洛马，就重组DNA的潜在危险达成了一项基因研究休战协议。该协议并未禁止基因研究，而是呼吁制定严格的、基于风险的安全指南。这次研究暂停时间虽短，但卓有成效。正如诺贝尔奖得主保罗·伯格所言，阿西洛马“标志着科学界和公众科学政策讨论进入了一个非凡的时代”。诚然，商业和军事利益已潜伏在科学辩论的背后。尽管如此，这次会议还是促成了一项有争议的技术得以蓬勃发展，并带来了诸多公共健康效益。2017年，在1975年会议的旧址上，举行了一场“人工智能的阿西洛马”会议。

在那里，制定了一套23项指导方针，强调“安全、合乎道德和透明的人工智能”以及共同繁荣。这些原则指出，“只有当先进人工智能的影响能够与人类的长期福祉相符时，才应追求其发展。” 从近期事件来看，其中许多原则似乎已被放弃。该行业助长了不信任文化，而其主要设计者却将这种文化视为阻碍防止更大人工智能危害的因素。自愿的自我监管是否可能或足够，仍然是一个值得探讨的问题。与此同时，欧盟推出了《人工智能法案》，这是第一个具有法律约束力的全面框架，根据风险对人工智能系统进行分类，并规定了组织如何开发、部署、记录和管理人工智能的义务。

鲍尔广为流传的文章既是对共谋的辩护，也是对技术注定出现之处不存在罪责的否认。然而，欧盟人工智能法案之类的立法证明，人工智能——以及任何技术的未来——都是一个选择问题，而非命运。我们应该立即根据这一认识采取行动。丽莎·H·西德里斯是“观点项目”的近期公共之声研究员，也是加州大学圣巴巴拉分校科学、宗教与环境伦理学的学者。