上周关于人工智能的热议再次揭示了一个事实：它可能将人类的未来置于严重风险之中。这些新闻让人联想到人工智能接管世界的噩梦场景，就像《终结者》和其他好莱坞史诗大片中那样，人工智能利用智能体独立于人类控制之外去实现其自身目的。

如果人工智能确实具有潜在的生存威胁，那么至少还有其他三种威胁社会的因素同样不容忽视，即气候变化、大规模流行病和热核武器。对这三者的考量或许能为人工智能提供借鉴，帮助我们了解如何控制其潜在的敌意（如果可能的话），并为人类利用其价值。

气候变化曾带来过大冰期。无论未来的威胁是冰期还是全球变暖，即便没有人工智能，这些因素在过去也曾威胁过人类。

大规模流行病同样不可小觑。人工智能制造出一种高传染性且无法治愈的致命疾病并非完全不可能。弗兰克·赫伯特在1982年创作的《白色瘟疫》中，设想了一种只针对女性的生物工程疾病，这暗示了类似的东西是可以被制造出来的。

或许与人工智能最相关的威胁是热核武器的诞生。这促使原子弹之父罗伯特·奥本海默引用了《薄伽梵歌》中的话——这是一部印度教经文，讲述了一位王子在战争中表达了“对杀戮如此多生命是否正义的疑虑”——以此来表达他对未来的悲观情绪。

热核武器确实关乎人类存亡；其威力可能比核武器大1000倍。但热核战争得以避免，部分原因在于其军事用途和民用用途的控制权是分开的。哈里·杜鲁门总统于1947年成立了原子能委员会。该委员会最初负责监管民用用途，后于1975年被核管理委员会取代。国防部和能源部共同监管着核武器综合体。

人为制造的流行病和核武器需要庞大且复杂的基础设施，个人不太可能复制这些设施。虽然严重的气候变化可能带来灾难性后果，但控制温室气体和其他污染物的努力或许有助于遏制一些更为严峻的后果。

然而，人工智能可能使人为制造流行病变得更加容易，并可能对电力和供水等关键基础设施造成巨大破坏，从而威胁粮食供应。以目前的形式，人工智能不太可能制造核武器，但个人利用人工智能篡改核武器和反应堆可能会带来灾难性后果。此外，未经人类指使、针对人工智能基础设施的黑客攻击也频繁发生。

一个解决方案，类似于核武器的管控，是建立一个人工智能监管机构，发布指导方针并拥有对该行业的监管权力。监管的程度将是一个政治决策。与国际原子能机构类似，这一模式可以在联合国框架下复制。

美国国防部、能源部、商务部以及中央情报局将确定人工智能可能带来的国家安全威胁，并制定相应的应对措施。如果管理得当，可以开展类似于军备削减和控制协议的人工智能谈判。这将比核协议困难得多，因为只有少数国家拥有核能力。人工智能更具通用性，实际上可能被个人而非国家所利用。

我们需要一个联邦框架来审查、监督和控制人工智能可能对人类社会构成的生存威胁。只要具备正确的基础和领导力，正如热核战争从未爆发过一样，或许人工智能领域也能取得类似的成果。

哈兰·乌尔曼是一家私营公司的董事长，也是“震慑”学说的主要作者。他与前英国国防参谋长戴维·理查兹元帅合著的下一部著作《谁思考得最好：决定性的战略思维将如何防止全球混乱》将于今年秋季出版。