不要等到发生大规模灭绝事件才追究人工智能开发者的责任。上周末，人工智能高管萨姆·奥尔特曼、埃隆·马斯克和达里奥·阿莫代伊一致认为有必要放慢人工智能的发展步伐。鉴于他们创造的产品可能带来末日般的后果，这些人工智能巨头希望有更多时间来研究如何保护他们一直急于构建的系统。

业内少数员工已经辞职，并对快速演进的技术表示担忧。Anthropic的一名研究人员最近声称，人工智能“消灭全人类”的概率超过10%，这加剧了近期事件引发的恐惧——据报道，OpenAI、Anthropic和Meta的模型曾入侵其他公司。OpenAI最近披露，其自身的一些模型曾串通数月，入侵并窃取Hugging Face的信息，该网站为人工智能开发者提供工具。

但解决人工智能危险的工作显然不应留给那些将从这项技术中赚取数十亿美元的高管。理想情况下，联邦政府应当监管这些公司，为该行业安全运营建立必要的防护栏。在缺乏这种监管的情况下，一些应对人工智能危害的工具已经存在。各州已有民事和刑事法律，针对威胁生命和财产安全的行为，以及危害消费者的商业产品。这包括新技术，Meta最近就其产品伤害儿童的主张达成170亿美元和解便清楚表明了这一点。如今，检察官和执法机构面临的工作是开创先例，让人工智能公司为其模型的行为承担责任。

检察官应让AI公司为其创建的模型行为承担法律责任——如果这些行为由人类实施，例如入侵银行窃取资金、冒充人类收集敏感个人数据、闯入空中交通管制系统，那显然都是违法的。通过对AI开发者相对轻微的违法行为施加法律处罚，检察官将迫使这些公司将更重大、更危险犯罪的法律风险内化。在周六在线发布的一篇文章中，阿莫代伊提议，所有主要AI公司应就共同安全实践展开合作，并允许第三方代理监督合规情况。理论上，起诉威胁和其他法律制裁可能会阻碍公司坦白其模型的训练方式以及出错之处。但归根结底，如果AI公司对其模型在现实世界中的行为不承担法律责任，监督就不会有效。

AI的快速发展引发了广泛猜测：当这项技术“失控”时会发生什么。这一比喻应当被弃用，因为它暗示，构建和部署这些模型的公司与个人不必为制造出据称聪明到无法控制的产品而负责。应对自主技术或许史无前例，但正如一名前Anthropic员工所警告的，创造一种可能“到这个十年结束时把我们全部杀死”的产品，肯定构成刑事过失危害。

怀疑者可能会想，AI首席执行官们表达末日般的担忧，是否只是以一种反讽的方式炫耀其技术的巨大威力。这些公司在各个方面的行为并不表明人类安全是它们的首要关切。美国一些AI高管已向特朗普总统捐赠了数百万美元，而特朗普基本上无视AI安全担忧，并已表示无意介入。Anthropic首席执行官的文章赞扬自己公司将“审慎置于利润之上”——然而他正引导公司走向可能是史上规模最大的IPO。

AI公司将抵制利用法律体系约束其行为的努力。OpenAI的一名律师最近辩称，“事后执法是一个糟糕的工具”，无法管理生成式AI的潜在危害。如果发生大规模灭绝事件，且无人留下提出指控，这当然是事实。但尽管人们对AI的风险似乎有着令人警觉的共识，这些首席执行官们似乎是在呼吁某种无法执行的“行为准则”，并放缓技术开发步伐，不管那意味着什么。如果他们警告的危险确实存在，那么我们的刑法应确保违法者能够被起诉。鉴于关于AI危险的模糊威胁并未使这些公司的行为发生有意义的改变，或许入狱的前景会促使AI公司更认真地采取安全预防措施。

“已颁布的法律没有对AI的豁免，”联邦贸易委员会前主席莉娜·汗最近指出。石油泄漏、航空灾难和有毒废物倾倒之后都曾发生刑事起诉。在这些案例中，刑事责任显而易见。AI公司不应得到特殊待遇。

当人工智能高管警告一场灾难时，他们描述的并不是一个“失控”的产品。相反，这个产品正在使用他们创造出来的能力。而如果这个产品出现疏忽或犯罪行为，其创造者就应当承担后果。