字号 ·· | 护眼
彭博社

人工智能恐慌正让我们倒退回中世纪

主流媒体终于赶上了《守望台》——耶和华见证人的标志性出版物——并将聚光灯投向了世界末日。雅各布·考克森绝望地辞去了在人工智能巨头Anthropic的工作,发推文称业内人士认为,未来十年内这项技术毁灭人类的概率超过10%;在职的Anthropic高管埃文·胡宾格发推文说“雅各布说得对”;瞧,关于末日的专栏文章和社论纷纷涌现。我没有资格判断这个10%的数字是否合理。一些人工智能科学家认为这是歇斯底里的胡言乱语;另一些人则认为,即便这个数字偏高,末日审判仍有可能发生。作为一个区区写手,我觉得,哪怕人类彻底毁灭的概率只有1%,我们也应该踩下刹车。唐纳德·特朗普保证“人工智能唯一需要的控制或‘护栏’是一位强大而聪明(高智商!)的总统”,这还不够让人安心。

世界是否即将终结,只是我们面临的与末日相关的两个问题之一。另一个可以称为“末日心态”。所谓“末日心态”,我指的不仅仅是对末世的过度关注。(如果你真的相信世界末日近在眼前,谁又能说多大程度的关注才算过度呢。)我指的是一种思维方式,它认为每个问题背后都潜伏着一场宇宙灾难,而且几乎对最终清算的前景津津乐道。

理解末日心态的最佳方式,是阅读诺曼·科恩关于中世纪宗教狂热的经典历史著作(1957年)。科恩表明,在整个中世纪,欧洲社会一再被千禧年狂热所震撼,这种狂热部分源于基督教文本,尤其是《启示录》,部分源于社会不满与疏离,并由一连串古怪的先知所引领。

这些先知并未将世界末日描绘成一个彻底的终结,而是将其呈现为一场伟大的清算——世界将因善与恶之间的最终较量而剧烈动荡,一方是上帝及其天使,另一方是反基督及其他长角野兽;人类将分为得救者与受罚者,得救者将在永恒的极乐中生活,摆脱劳作、疾病和死亡的诅咒,而受罚者则将在地狱之火中痛苦挣扎。这些先知以神圣的愿景激励追随者,却屡屡将他们引向灾难,要么是与当局的暴力冲突,要么是短暂存在、最终崩溃的公社。

科恩认为,20世纪伟大的极权主义运动——纳粹主义和共产主义——与中世纪的千禧年主义有许多共同之处。纳粹分子和共产主义者都以善恶之间的生存斗争来思考问题。他们都寄希望于那些能够解读历史隐藏含义,并带领追随者走向“应许之地”的先知——希特勒口中的“千年帝国”或列宁笔下的“无阶级社会”。科恩说:“这些现代运动之所以与欧洲普通的政党截然不同,恰恰在于它们赋予了社会冲突和愿望一种超验的意义——实际上,赋予了它们终极末世戏剧的所有神秘感和威严。”读到这句话,很难不让人不寒而栗。因为世界上两个最大的经济和政治权力中心——硅谷和华盛顿——充斥着那些赋予“社会冲突和愿望以超验意义”的人。科恩所说的千禧年主义者几乎总是来自社会边缘群体——穷人、流离失所者或受教育程度较低的人,以及中世纪社会边缘的流浪者。在18和19世纪,情况同样如此,当时著名的千禧年主义者包括乔安娜·索斯考特,这位年迈的乡村老处女在1814年声称自己是《启示录》中的女人,怀着将开启末日的救世主,并吸引了10万名追随者。但如今,硅谷或华盛顿的许多伟大的千禧年先知,却是这个星球上最富有、受教育程度最高的人。

末日商机的领军人物是彼得·蒂尔,他毕业于斯坦福大学,曾是国际象棋神童,如今是一位风险投资家,身家约350亿美元。他可不是乔安娜·索斯科特那样的人。蒂尔热衷于就反基督者发表闭门演讲(但内容被大量泄露)。这其中不乏戏谑成分——他甚至暗示格蕾塔·通贝里就是反基督者——但也包含一个严肃的观点。蒂尔似乎认为,当今世界之所以陷入前所未有的动荡,根源在于技术革命。通贝里这样的进步派人士,靠煽动人们对未来的恐惧来维护旧权力结构(“不断谈论末日、谈论战争的传言”);而技术革命者的使命则是勇往直前,不惧忧虑,开创一个富足的新时代。蒂尔在新西兰建有一座物资充裕的堡垒,以备这种“不惧忧虑”的策略出了岔子。

这种将世界划分为得救者与受罚者的习惯,贯穿于蒂尔的一切行为。他大力投资于抵御外部威胁的防御建设;为少数被选中的人提供逃离失败公共服务的出路(包括资助学生从大学辍学);以及延长人类寿命,理想情况下是彻底废除死亡。这一切让人想起科恩笔下的世界:上帝与魔鬼展开最终决战,圣徒们从混乱中走出,过上永续丰饶的生活。

蒂尔成长于一个保守的路德宗基督教家庭,因此对末日话题格外直言不讳。但有这种想法的人远不止他一个。硅谷有数量惊人的人与他一样,倾向于以弥赛亚式的视角来看待技术,尤其是人工智能。在他们的世界里,人群被划分开来——即便不是圣徒与罪人之分,也是理解技术力量的高智商群体与不理解技术的普通人之间的分野。而蒂尔也并非这些预言者中最极端的一个。

千禧年主义历史上几乎每一个疯狂的念头,都可以在当下的叙事中找到踪影:一个物质极大丰富的全新时代即将来临,人们不再需要工作;我们可以通过将意识上传到机器来实现永生;我们正在创造一种超级智能形式的上帝;我们可以通过机器增强身体来获得超人的力量;而在消极的一面,我们逃离即将到来的“大洪水”的唯一机会,就是建造现代版的“诺亚方舟”——即宇宙飞船。埃隆·马斯克坚持认为我们必须成为跨行星物种,这简直是《星际迷航》与《启示录》的混合体。

在华盛顿,你也能听到类似的论调,有时它们被披上科学的外衣(蒂尔在特朗普政府中拥有超过16名盟友),有时则以其原始的宗教术语呈现。领导白宫信仰办公室并担任特朗普最亲密精神顾问的宝拉·怀特-凯恩,是总部位于加利福尼亚州的千禧年主义教派“七山使命”的成员。国防部长皮特·海格塞斯二头肌上纹着“上帝的旨意”(deus vult),胸前还纹着一个耶路撒冷十字架。在蒂尔的指导下于硅谷发家致富、近期又皈依罗马天主教的万斯,则横跨了特朗普千禧年主义大军中宗教派与科学派之间的鸿沟。

过度沉迷于千禧年主义无助于解决普通问题。当政客们一想到世界末日就瑟瑟发抖时,他们怎能专注于修补坑洼?当他们认为对方带有兽的印记时,又怎能与对方达成协议?但有许多非常规问题,对末日式思维的沉迷可能使伊朗与以色列之间的对峙陷入僵局——而这一地区正是千禧年主义的发源地;弗拉基米尔·普京日益绝望地试图保住权力,被渲染成一场文明冲突;以及人工智能的惊人进步。科恩笔下那些痴迷千禧年的信徒最多只能把几千人送上火刑柱。而今天的末日贩子却能引发他们一直在谈论的那件事本身。