发布时间：2025.06.17
源地址：https://www.wsj.com/tech/ai/pope-leo-ai-tech-771cca48
新教皇将人工智能对人类潜在威胁作为其标志性议题——但硅谷正试图赢得他的支持
梵蒂冈城——新任美国教皇登基仅两天，他在一间满是红帽枢机主教的大厅里轻声讲话，提到了他打算利用拥有两千年历史的教皇权威应对的数字时代对人类尊严的挑战：人工智能。
天主教会的枢机主教们专注聆听教皇利奥十四世首次阐述他的施政重点。他透露，自己选择“利奥”这个教名，正是受到科技革命的启发。教皇解释道，他的名字来源利奥十三世曾在镀金时代为工厂工人的权益挺身而出，那时工业巨头掌控着快速变革和极端不平等。
今天，教会提供其丰富的社会教义，以应对另一场工业革命以及人工智能领域的创新，这些创新对人的尊严、公正和劳动构成了挑战，莱奥十四世在枢机主教团前说道。枢机主教们起立欢呼，支持这位新教皇及其不寻常的使命。
莱奥周六在圣彼得大教堂向人群挥手致意。照片来源：梵蒂冈媒体/epa/Shutterstock
第 267 任教皇，芝加哥的儿子，将人工智能对人类潜在威胁作为其教宗任期的标志性议题，向多年来试图将梵蒂冈培养为盟友的科技行业发起挑战。
过去十年，硅谷许多最具影响力的高管纷纷飞往罗马，试图影响全球最大基督教教派对他们创新成果的看法和表达方式。谷歌、微软、思科等科技巨头的领导人与梵蒂冈就日益智能化的机器所带来的哲学和社会影响展开讨论，旨在分享新兴技术的益处，赢得道德权威的认可，并有望借此引导其对各国政府和政策制定者的影响力。
尽管对话氛围友好，双方的观点仅部分重合。梵蒂冈一直推动制定一项具有约束力的国际人工智能条约，而一些科技公司首席执行官则希望避免这一点。
多家公司支持自愿性的伦理准则，倾向于这种方式而非欧盟逐步推行的具有法律约束力的人工智能监管。特朗普政府撤销了拜登时代的人工智能法规，并批评欧洲试图强制实施约束性规则。一些科技高管甚至反对制定宽泛的指导方针。
教皇方济各在刚刚上任时曾表示，他几乎不会使用电脑。然而，随着他对人工智能的了解逐渐加深，他的担忧也日益增加。他成为全球关注人工智能可能对人类带来潜在危险的主要声音，频繁与科技企业高管会面，探讨相关问题。
教皇方济各与马克·扎克伯格于 2016 年在梵蒂冈举行私人会晤。照片来源：罗马观察报/EPA/SHUTTERSTOCK
教皇利奥是一位数学专业毕业生，比他的前任更懂技术，他同样对不受监管的人工智能持怀疑态度，并且正在延续方济各的工作。
教皇利奥十四世希望科学界和政治界立即着手解决这一问题，避免科学进步带着傲慢，伤害那些不得不屈从其力量的人，”多年来与利奥关系密切的枢机主教朱塞佩·韦萨尔迪表示。
本周，梵蒂冈在其宏伟的宗座宫殿内，迎来了来自谷歌、Meta、IBM、Anthropic、Cohere 和 Palantir 的高管们，举办为期两天的国际会议，主题聚焦人工智能、伦理与企业治理。此次会议在罗马举行，由律师事务所 Wilson Sonsini 合伙人 David Berger（该所为多家大型科技公司提供咨询）和与梵蒂冈合作的 Libra Legal Partners 合伙人 Pierluigi Matera 共同主持。
教皇预计将向会议参与者发表书面致辞，但在其教宗任期初期尚未与科技公司首席执行官会面。知情人士透露，微软总裁布拉德·史密斯本月计划在罗马与梵蒂冈官员会面，谷歌也已与梵蒂冈就可能与教皇利奥会面进行接触。
这些会面或将让推动人工智能崛起的公司一窥 Leo 是会提供友好建议，还是会提出强硬挑战。
为了了解天主教会与硅谷领军人物之间长达近十年的对话，《华尔街日报》采访了近 30 位科技高管、神职人员以及他们咨询过的历史学家和未来学家。这些受访者描述了他们关于人工智能未来的详细讨论，这些对话常常在秘密中进行。
工人阶级的教皇
这位美国教皇对 19 世纪 90 年代的提及，是天主教会与资本主义复杂关系的最新篇章。特朗普总统将镀金时代视为美国应当回归的黄金时期，而教皇利奥则将其视为历史的警示。
教皇利奥十三世，1878 年。照片来源：贝特曼档案馆/盖蒂图片社
19 世纪末在位的教皇利奥十三世，是首位系统性应对工业革命社会影响的教皇。被称为“工人教皇”的利奥，敦促各国政府制定法律，保护工人免受当时无情资本家的剥削。
教皇利奥十三世的观点深受美国巴尔的摩枢机詹姆斯·吉本斯的影响。吉本斯向他讲述了美国工厂工人的困境，这些工人大多是来自意大利和爱尔兰等欧洲国家的天主教移民。吉本斯警告教皇，如果教会不支持劳工，便会有无神论的共产主义者填补这一空白。
在一份开创性的 1891 年通谕《新事物》（拉丁文原名 Rerum Novarum）中，教皇利奥十三世支持工会、体面工资和更安全的工作环境的呼声。但他同时也肯定了私营企业和财产权的权利。
劳动力的雇佣和贸易活动集中在相对少数人手中；因此，一小部分极其富有的人能够将几乎等同于奴役的枷锁强加在成千上万的劳动贫民身上，教皇利奥十三世写道。
《新事物通谕》奠定了现代天主教社会教义的基础，激励了天主教劳工运动。它还影响了二战后欧洲一种强有力的温和保守政治派别，该派别支持资本主义，但强调设立严格的监管措施。
与大型科技公司对话
近年来，天主教会对不平等问题和构建更具包容性的经济体制的呼声日益高涨。
弗朗西斯最初并未将科技伦理视为核心关注点——他有时担心全球贫困人口在使用社交媒体方面存在落后。他积极使用推特，并因与来访者及天主教信徒自拍而在梵蒂冈内被称为“Snapchat 教皇”。
去年，教皇方济各与意大利喜剧二人组 Pio e Amedeo 合影。照片来源：梵蒂冈媒体/祖玛新闻社
2016 年，梵蒂冈曾邀请硅谷一些最具影响力的人物，包括 Facebook 的马克·扎克伯格、苹果的蒂姆·库克以及谷歌的埃里克·施密特，共同探讨如何将科技用于善举。
据知情人士透露，弗朗西斯曾向施密特提到，他需要一些帮助来运营一个面向青年的新梵蒂冈 YouTube 频道。施密特派遣了一批谷歌员工前往梵蒂冈协助工作，持续了数周，但他们对梵蒂冈官僚体系的缓慢进展感到沮丧，最终该频道未能实现。
保罗·蒂格主教来自爱尔兰，他协助组织了一系列被称为“密涅瓦对话”的闭门会谈，参与者包括梵蒂冈高层和科技领袖，该对话以罗马的一座多米尼加教堂命名。
起初，讨论主要集中在数字化不断发展的前景上，但随着时间推移，参与者开始表达他们对随之而来的政治极化加剧的担忧，据知情人士透露。
在这些年里，弗朗西斯也开始对缅甸罗兴亚人民遭受的大屠杀表示关切，这些暴行部分是由在 Facebook 上广泛传播的帖子助长的。
2017 年，缅甸北部一村庄被焚烧。照片来源：法新社/盖蒂图片社
随着时间推移，科技领袖们越来越多地谈论即将到来的人工智能突破。“有人对我们说，‘你看，这将引发关于人类未来的问题……我们希望与所有传统智慧的来源进行对话，’”Tighe 表示。
呼吁伦理规范
2019 年初，时任梵蒂冈生命科学院院长的文森佐·帕利亚大主教表示，微软方面曾联系他，安排与公司总裁布拉德·史密斯会面，讨论人工智能的伦理问题。
帕利亚对此感到好奇，但也对微软的意图保持警惕。“办公室里有人对我说：这家伙想要得到梵蒂冈的认可，也许是为了销售，”帕利亚说。但他还是同意与史密斯会面，双方一见如故。“几乎是一见钟情。我们都深刻理解这一问题的重要性，”帕利亚表示。
不久之后，大主教与史密斯一同会见了教皇。没有时间进行详细汇报。
弗朗西斯在准备迎接史密斯时问帕格利亚：“告诉我，这个人是谁？”为了引起教皇的兴趣，大主教说史密斯是一位帮助美国移民的律师。（史密斯共同创办了一家为移民儿童提供法律援助的非营利组织。）弗朗西斯回答：“好，那我们走吧。”
“我不能仅仅说，‘他是微软的总裁。’我需要带来情感上的冲击，”帕格利亚解释道。微软与梵蒂冈官员有多年的合作关系，但从未达到这样的层面。
2019 年，微软的布拉德·史密斯与教皇方济各在梵蒂冈合影。照片来源：梵蒂冈媒体/路透社
史密斯向弗朗西斯详细阐述了他对人工智能的愿景。“我们认为这项技术是为人类服务的，而不是取代人类，”史密斯在一次采访中表示。
帕利亚和史密斯为 2020 年发布的《罗马人工智能伦理倡议》奠定了基础，IBM 和思科等企业签署了该倡议并承诺遵守。该 12 页的承诺书要求人工智能开发者不得侵犯用户隐私或人权，也不得助长歧视，并提出“设计和部署人工智能的人必须负责任地行事”。包括谷歌和 OpenAI 在内的一些人工智能先驱尚未签署该倡议，帕利亚希望能促使他们加入。
梵蒂冈认识到人工智能在医疗、教育和传播信仰等领域发挥积极作用的潜力，同时也明确存在需要考虑的伦理难题。希望神职人员与科技领袖能够携手制定相关原则。
随后几年，拜会教皇成为新晋科技公司 CEO 们的一种仪式，包括 Anthropic 的达里奥·阿莫迪、Cohere 的艾丹·戈麦斯以及 Terra Quantum 的马库斯·普利奇，后者称与教皇方济各的会面为“圣杯”。
普利奇表示：“大家普遍持较为积极的态度，基本达成共识，认为我们能够组织并利用传统人工智能造福社会……但我们需要建立合适的治理结构。”
多米尼加会神父埃里克·萨洛比尔表示，来访者们经常与教皇就技术的本质与神性展开辩论。
弗朗西斯在一次会议上将人工智能对少数几种语言（主要是英语）网络内容的依赖，比作《巴别塔》的故事。故事中，自负的人类使用同一种语言试图建造通天塔，结果上帝将他们分散，破坏了他们的计划。
2023 年，一张由人工智能生成的教皇方济各的图像在网络上广泛传播。照片来源：Guerrero Art
教皇在另一场会议中警告科技领袖，不要因为他们的数据能够预测人类行为就认为自己了解人类：“你们忽视了人类的本质，因为人类不能被简化为数据，”萨洛比尔神父回忆道。
2023 年，一张教皇方济各身穿时尚白色羽绒服的 AI 生成图片成为最早走红的深度伪造图像之一，全球许多人都被误导。随后，方济各警告称“技术独裁”正在形成，呼吁各国政府制定具有法律约束力的国际条约来规范人工智能。
在 2024 年七国集团领导人峰会上，他称人工智能“既令人着迷又令人恐惧”。他表示，如果“机器的选择”取代了人们对自己生活的决策，人类将面临一个没有希望的未来。
今年一月，梵蒂冈在一份关于人工智能的文件中警告称，尽管这项技术有积极的用途，但少数科技公司可能会以牺牲大众利益为代价，获得财富和权力。军方可能会竞相开发缺乏人类判断和道德的自主武器。儿童则面临在一个去人性化的世界中成长的风险，聊天机器人可能成为他们的引导者。
教皇方济各在去年七国集团峰会期间，与法国总统埃马纽埃尔·马克龙和意大利总理乔治娅·梅洛尼一同参加了关于人工智能和能源的工作会议。照片来源：Ludovic Marin/法新社/盖蒂图片社
弗朗西斯于四月去世后，抵达罗马选举继任者的枢机主教们热议人工智能。几位欧洲主教警告说，人工智能正在挤压现代生活中上帝的空间。一些来自非洲的同僚则对科技行业对埋藏在他们土地下矿产资源的无尽需求表示担忧。
他们现在正等待观察莱奥如何利用教会的道德权威，推动制定严格的人工智能规范。
“这些工具不应被妖魔化，但必须加以监管，”韦萨尔迪枢机主教说。“问题是，谁来监管它们？由制造者来监管显然不可信。必须有一个更高的权威机构来负责监管。”