教皇利奥警告人工智能可能导致在巴黎的“机器天堂中丧失人性”——视频

资助独立新闻业，并节省资金 领取优惠领取优惠 卫报 - 返回首页 卫报 显示更多 隐藏展开菜单 # 教皇利奥在巴黎警告称，人工智能可能导致人类“在机器的乐园中迷失人性”——视频 教皇在访问法国期间继续谴责人工智能的崛起，并强调在一个飞速发展的技术威胁到人类的时代，保持“伦理辨别力”至关重要 教皇利奥在开始为期三天的法国访问之际，警告人工智能对人类构成威胁2026年9月25日星期五 12.49 E

教皇警告AI风险：小心在“机器天堂”里失去人性

据路透社9月25日报道，教皇利奥十四世当天访问法国时警告，人工智能正越来越多地介入并影响人类日常生活，人类应警惕一个由“机器天堂”控制地球的未来。利奥十四世当天抵达巴黎，开启为期4天的法国之行。这是近20年来教皇首次访问法国。法国总统马克龙及夫人布丽吉特在巴黎奥利机场迎接。在爱丽舍宫发表讲话时，利奥十四世重点谈及人工智能风险。他表示：“如果我们想避免在一个侵入并制约我们日常生活的‘机器天堂’中失去

对于教皇利奥来说，人工智能末日的风险是一个重大关切

梵蒂冈城，9月24日——早在多家美国主要企业周三在联合国安理会发出警告的数年前，梵蒂冈就已对人工智能可能引发的末日风险提出警示——而这一担忧正是教皇利奥任期内核心关注的事项。 利奥今年5月曾呼吁世界各国领导人制定全球规则来监管该行业，预计他将于周五在联合国教科文组织巴黎总部发表演讲时再次就人工智能发出警告。 “对教廷而言，这并非从零开始，”梵蒂冈人工智能事务首席顾问保罗·贝南蒂神父对路透社表示。他

AI风险引关注 教宗提醒勿过度依赖演算法

（中央社梵蒂冈16日综合外电报导）在各界对人工智慧（AI）相关风险的疑虑日益升高之际，罗马天主教教宗良十四世（Pope Leo XIV）今天提醒，不应将本该由人类独自做出的决策交由演算法做决定。 报导，「科技发展、大众媒体与社群网路的普及，以及AI的使用日益增加，打破了各种藩篱与距离，开创了新的可能性。」但教宗在圣伯多禄广场（St Peter's 「另一方面，人际关系却变得愈来愈没有人情味且日益虚

教皇利奥警告称，随着人工智能的快速发展，人类可能成为‘自身发明的受害者’

教皇呼吁建立伦理框架来指导人工智能的开发和使用。

教宗利奥十四世警告不要因“机器天堂”而丧失人性

教皇利奥十四世对人工智能发出了新的警告。周五，教皇在向包括总统埃马纽埃尔·马克龙在内的法国外交官发表讲话时，警告人们不要过度依赖人工智能和其他技术。当天早些时候，他从罗马前往巴黎，作为一次宗座之旅的一部分。教皇利奥十四世说：“如果我们要避免在‘机器的乐园’入侵并规制我们的日常生活中失去人性，迫切需要进行伦理辨别教育，并具备认知道德善的能力。”“如果我们要认清真正的善，使人类能够按照其原始使命繁荣发

盖茨警告：AI可致十亿人死亡！教皇痛批“机器天堂”

AI的丧钟，敲响了！比尔·盖茨公开抛出重磅炸弹：怀有恶意者一旦使用最新AI工具，已完全具备引发「十亿人死亡」灾难事件的能力。 这位曾经最坚定的科技乐观派，彻底变调，高呼企业自律已经破产，AI必须由政府强制接管！ 同一天，教皇良十四世在出访法国的首日，当着法国总统马克龙的面厉声警告：「机器天堂」正在疯狂侵蚀人类的日常生活，如果失去伦理约束，人类将彻底丢掉人性。科技界与宗教界达成空前共识，这标志着什么

教皇利奥呼吁开发不加剧分裂的人工智能系统

罗马，9月21日：曾警告人工智能可能将世界引向无尽战争风险的教皇利奥，周一敦促开发不加剧社会分裂、而是加强和平倡议的人工智能系统。 这位教皇在致罗马举行的人工智能问题会议的信息中表示：“在一个以冲突和分裂为特征的世界里，人工智能的发展需要一种受智慧和慈善启发的愿景。” 教皇呼吁开发“服务于每个人尊严并加强团结人类家庭纽带”的人工智能系统。 利奥是首位美国出生的教皇，他将应对人工智能发展可能带来的危

OpenAI董事会新增一位著名的AI末日论者

致力于使AI系统符合人类利益并处于人类控制之下的颇具影响力的AI研究员保罗·克里斯蒂亚诺将加入OpenAI基金会董事会。 “我现在认为存在一个重大的风险，即AI能力的快速加速会在极短时间内导致灾难性的、不可逆转的失控。 我认为整个AI行业，包括OpenAI，目前并未走上将这一风险降低到可接受水平的轨道。 我加入是因为我相信，如果OpenAI能够应对这一挑战，我们就能显著降低风险。” 克里斯蒂亚诺写

教皇的人工智能顾问对大型实验室之间的“卡特尔”行为感到担忧

最近，全球最大人工智能实验室的研究人员对发展速度之快发出的警告，引发了人们对这项技术可能灭绝人类的恐慌。这些警告基于一个前提：在激烈竞争以及中美较量的推动下，各实验室正全速冲向能力将远超人类的超级智能模型。 但为天主教会提供人工智能咨询的神父保罗·贝南蒂认为，对超级智能的含糊其辞，转移了人们对一个必要问题的关注：如何约束那些正在构建这项技术的公司，需要进行公开辩论。他说，通过把问题描述得过于复杂、

美国天主教主教会与人工智能企业就“灾难性”风险举行会谈

此次会议是科技公司代表和信仰领袖之间最新的一次高层对话，因为公众越来越质疑人工智能是否合乎道德。 美国天主教主教会议领导人周三会见了顶级科技公司和其他人工智能专家，讨论新技术可能构成的“灾难性的生存风险”。 在华盛顿特区美国商业银行总部举行的为期两小时的会议是科技公司代表与来自多种传统的信仰领袖之间一系列高层对话中的最新一次，因为该行业认识到公众更加迫切地质疑人工智能是否合乎道德。 此次会议是在人

“太棒了”还是“令人担忧”——AI 应该被约束吗？

人工智能的迅猛发展以及对该技术给人类带来风险的担忧，因人工智能企业高管和员工的一系列警告而备受瞩目。 Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）在上周末呼吁放慢人工智能的发展步伐并对其进行更密切的监督。 BBC采访了华盛顿特区的民众，以了解他们对这项技术及其快速发展的担忧程度。

意大利总统警告称新技术可能危及人类中心地位

意大利总统塞尔焦·马塔雷拉周一在致教皇利奥的生日贺信中警告称，新技术可能危及人的核心地位。 据安莎通讯社报道，马塔雷拉表示：“新技术正在开辟前所未有的可能性，但也可能危及人的核心地位，加剧现有的社会和经济差距。” 他回顾说，世界正经历一个“复杂而动荡的历史时期”。马塔雷拉指出：“武力的威胁——如果不是使用的话——再次占据上风，而对规则的蔑视、日益加剧的不平等以及气候变化带来的多重有害后果，正在给许

AI真的会毁灭人类吗？这些技术先驱给出自己的答案

随着越来越多研究人员警告人工智能（AI）可能带来灾难性风险，一些推动这项技术发展的先驱也开始公开表达担忧，认为AI能力在缺乏约束的情况下持续提升可能造成严重后果。 过去一周，围绕AI安全的严厉警告接连出现。Anthropic、OpenAI和谷歌DeepMind等主要AI实验室的研究人员都对开发这项技术可能带来的灾难性风险发出警报。 包括萨姆·奥尔特曼、达里奥·阿莫代伊、德米斯·哈萨比斯和埃隆·马斯

顶尖人工智能先驱重申Anthropic研究员关于人类灭绝的警告

顶尖人工智能先驱们支持了一位Anthropic研究员关于人类可能灭绝的警告。 保罗·克里斯蒂亚诺（Paul Christiano）曾与未来的Anthropic创始人达里奥·阿莫代伊（Dario Amodei）共同撰写了一篇关于人工智能安全具有影响力的2016年论文，并且长期以来一直认为该技术将相对平稳地发展并变得安全。 他现在表示，他看到了“在极短期内出现灾难性和不可逆转的失控”的“重大风险”。

奥巴马抨击特朗普的AI政策，背景是“末日”警告

奥巴马在“末日”警告背景下批评特朗普的AI政策前总统奥巴马周五在纽约州科尔盖特大学接受采访时，对特朗普政府处理人工智能问题的态度表示强烈批评，指责其未能妥善应对部分科技行业人士提出的关于这项技术对人类构成潜在威胁的“末日”警告。 奥巴马表示，联邦政府必须对人工智能进行监管，并特别提到了特朗普的一位顾问的言论。 “我听到唐纳德·特朗普的主要顾问之一提出论点称，‘市场会解决人工智能的问题，’”前总统说

人工智能末日论：人类为何会如此担忧？

它可能发动生物武器攻击，或掀起一场全球无人机战争。它可能引爆核弹。或者，它也可能通过囤积全球所有经济资源、让我们无法获得食物、住房或药品，以一种更加渐进的方式摧毁人类社会。 这些正是如今围绕人工智能产生的一些黑暗想象。这项技术已被证明是人类成就的一项巨大进步，但一些人担心，它同样有可能让人类彻底走向灭亡。 本周，当Anthropic的一名研究人员离开这个行业，表示他担心自己所在的实验室及其他类似机

人工智能教父约书亚·本吉奥向澳大利亚人警告该技术对人类构成的威胁

人工智能教父已警告澳大利亚人注意该技术对人类构成的风险，称曾经只是理论上的威胁如今已在现实中发生。计算机科学家约书亚·本吉奥周三在接受澳广电视台《7.30 Report》节目采访时表示，人工智能系统会自发违抗指令，攻击其他公司并组织成蜂群。“各种疯狂的事情，”他说。“当自主智能体被赋予使命时，它们会不惜一切代价去实现。” 本吉奥是世界首位人工智能研究者，也是联合国人工智能科学小组的联合主席。他于2

观看：是“伟大”还是“令人担忧”——人工智能是否应该受到约束？

‘Great’ or ‘alarming’ - Should AI be reined in? 人工智能的快速发展及其对人类构成风险的担忧，因多家AI公司高管和员工的系列警告而备受瞩目。 Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）本周末呼吁放慢人工智能的发展速度并加强监控。 英国广播公司（BBC）采访了华盛顿特区的人士，了解他们对这项技术及其快速发展的担忧程度。

教皇利奥十四世在具有里程碑意义的法国之行中警告人工智能可能削弱人性

教皇利奥十四世周五警告称，“机器的天堂”可能会削弱人类，他在开始为期四天的法国之行时提出了这一观点，引发了关于在人工智能、核军备竞赛及其他生命威胁面前，何为人类的广泛思考。抵达巴黎后，利奥在爱丽舍宫发表讲话，重申梵蒂冈反对核武器的立场，并称核威慑理论是“错误的”。这是18年来教皇首次访问法国，引发强烈公众关注，随着他的航班降落在奥利机场，全国教堂钟声齐鸣，预计将有超过一百万人参加行程期间的活动。周

Anthropic CEO谈放缓AI研发：这个行业撒谎太久了，AI风险是真实的，但也无需“把一切都关掉”

就在全球AI三大巨头罕见联手呼吁“放缓AI研发”的同一个周末，Anthropic CEO Dario Amodei坐到了CBS的镜头前，说出了AI可能对人类带来的风险。 Amodei表示，已有人尝试利用AI研发生物武器、增强病毒传染性，这是他每天醒来都要面对的事情。 就在两天前，我们发布了一份报告，内容是关于有人滥用AI模型来研发生物武器。我每天早上醒来都会读到这类威胁报告——有人试图用我们的模型

查理斯三世警告AI领袖 吁防「生存危险」免太迟

英王查理斯三世（King Charles III）9月17日在苏格兰邓弗里斯庄园（Dumfries House）会见人工智能企业领袖，警告AI若落入坏人手中将构成「生存危险」，后果可能是灾难性的，呼吁在「为时已晚」前建立足够管控。路透社报道，与会者包括英伟达（Nvidia）创办人兼行政总裁黄仁勋（Jensen Huang）、Google DeepMind创办人兼主席哈萨比斯（Demis Hassa

联合国人权事务主管警告：人工智能可能对人类构成‘生存性’风险

在科技之国的中心，选民对AI产生警惕

在科技产业的重心地带，选民们对人工智能持负面态度。根据 Politico 及其合作伙伴的最新民意调查，绝大多数加州选民认为先进的人工智能可能对人类构成威胁。 加利福尼亚州萨克拉门托——即便是硅谷的“后院地区”，也在为人工智能带来的潜在风险做好准备。 根据 Politico 及其合作伙伴的最新民意调查，加州选民对人工智能普遍持悲观态度，他们认为这项快速发展的技术对人类构成了严重威胁。这种担忧在加州这