梵蒂冈城，9月24日——早在多家美国主要企业周三在联合国安理会发出警告的数年前，梵蒂冈就已对人工智能可能引发的末日风险提出警示——而这一担忧正是教皇利奥任期内核心关注的事项。

利奥今年5月曾呼吁世界各国领导人制定全球规则来监管该行业，预计他将于周五在联合国教科文组织巴黎总部发表演讲时再次就人工智能发出警告。

“对教廷而言，这并非从零开始，”梵蒂冈人工智能事务首席顾问保罗·贝南蒂神父对路透社表示。他所指的是一些人工智能公司近期呼吁放缓发展速度的声浪，这一呼吁已得到Anthropic、OpenAI和xAI等公司首席执行官的支持。

“人工智能的变革力量……可能带来难以预测的巨大社会变化，”贝南蒂说。他是一位意大利学者，近期参加了英国国王查尔斯主持的人工智能峰会。这位神父表示，他无法透露峰会机密讨论内容的具体细节。

枢机主教：人类未来岌岌可危。利奥是首位出生于美国的教皇，在就任16个月以来频繁提及人工智能发展可能带来的危险，并在上任第三天就首次公开讨论了这一问题。

在他5月发布的呼吁中——这也是他的首份重要文件——利奥警告称，人工智能系统传播虚假信息、将冲突置于优先地位，并可能将世界引向无休止的战争之路。

梵蒂冈最高外交官、枢机主教彼得罗·帕罗林上周在罗马的一场活动中重申了利奥对该行业进行国际监管的呼吁，警告各国不能在这项技术上“各自为政”。

“人类的未来确实岌岌可危，”帕罗林说。他表示，世界需要“所有人共同参与，制定一些能够真正规范这一现象的通用规则”。Anthropic联合创始人克里斯·奥拉在梵蒂冈为教皇5月文件（即通谕）举办的发布会上发表了讲话。

当被问及梵蒂冈是否与任何AI公司保持持续对话时，贝南蒂强调了全球教会的去中心化性质，并表示一些讨论由地方主教主导。

9月16日，美国主教团表示，在其几位领导人当天与高管会面后，已成立了一个新的AI特别工作组。

一份声明称：“对话聚焦于如何让人工智能系统服务于人类，以及迫切需要应对这类技术所带来的真实而紧迫的危险。”

利奥警告自主武器问题。梵蒂冈从2019年开始警告AI的风险，当年举办了两场会议，讨论这项技术可能带来的危险。已故教皇方济各在其中一场活动上警告与会者，AI传播的虚假信息可能引发世界大战。

梵蒂冈还在2020年与微软、IBM、联合国粮食及农业组织以及意大利政府合作，呼吁AI发展“不应以获取更大利润或逐步取代职场中的人为唯一目标”。

利奥敦促对武器系统的开发加强监管，尤其是那些被用于俄乌战争的武器系统。他在通谕中表示，这类武器已先进到“实际上超出了人类治理它们的任何能力范围”。贝南蒂说，梵蒂冈在全球舞台上反对自主武器的倡导可以追溯到几十年前，并将AI驱动的无人机比作不分目标滥杀的地雷。

这位神父将梵蒂冈对AI风险的警告比作历代教皇长期以来对核裁军的呼吁。

他说：“如果核武器能够毁灭人类……那么在社交空间中对生成式人工智能内容的操纵，也能摧毁人们作为一个社会凝聚在一起的能力。”

“核武器必须储存在设施内，你可以清点并控制它们。人工智能却不是这样可见的。” 路透社