改变人工智能进程的十天

旧金山，9月19日——多年来，人工智能领域的竞争一直遵循着硅谷一贯的“快速创新、打破传统”的发展模式：不断开发出更强大的人工智能系统。 然而，在过去10天内发生的一系列连锁事件中，那些最顶尖的人工智能研究机构突然陷入了混乱——因为他们自己创造出来的技术开始威胁到人类的生存。 一位人工智能研究员辞职，并警告称，人工智能的发展速度可能在未来十年内对人类构成生存威胁；另一位研究员则表示，人类灭绝的概率已

人工智能末日论：人类为何会如此担忧？

它可能发动生物武器攻击，或掀起一场全球无人机战争。它可能引爆核弹。或者，它也可能通过囤积全球所有经济资源、让我们无法获得食物、住房或药品，以一种更加渐进的方式摧毁人类社会。 这些正是如今围绕人工智能产生的一些黑暗想象。这项技术已被证明是人类成就的一项巨大进步，但一些人担心，它同样有可能让人类彻底走向灭亡。 本周，当Anthropic的一名研究人员离开这个行业，表示他担心自己所在的实验室及其他类似机

OpenAI首席执行员下周赴安理会作简报

阿尔特曼下周将到联合国安理会进行简报。（图：路透社） （华盛顿19日法新电）OpenAI周五表示，该公司首席执行员阿尔特曼将于下周在联合国大会期间，向联合国安全理事会作简报。 此次会议由国安理会轮值主席国的法国组织召开，此前该行业的主要参与者曾表示，出于安全考虑，可能有必要放缓人工智能的发展步伐。 随着人们对这项快速发展的技术所带来的危险的担忧日益加剧，联合国秘书长古特雷斯周三呼吁采取协调一致的国

OpenAI董事会新增一位著名的AI末日论者

致力于使AI系统符合人类利益并处于人类控制之下的颇具影响力的AI研究员保罗·克里斯蒂亚诺将加入OpenAI基金会董事会。 “我现在认为存在一个重大的风险，即AI能力的快速加速会在极短时间内导致灾难性的、不可逆转的失控。 我认为整个AI行业，包括OpenAI，目前并未走上将这一风险降低到可接受水平的轨道。 我加入是因为我相信，如果OpenAI能够应对这一挑战，我们就能显著降低风险。” 克里斯蒂亚诺写

教皇前往法国进行18年来首次国事访问

罗马——9月25日，教皇利奥十四世将前往法国，这是梵蒂冈18年来首次对欧洲国家进行国事访问。人工智能和年轻信徒问题将是他访问期间的重点议题。 当天上午10点（新加坡时间下午4点），这位首位祖籍法国的美国籍教皇将抵达巴黎机场，届时法国全国的教堂钟声将鸣响七分钟，以示欢迎。法国总统埃马纽埃尔·马克龙及其妻子布里吉特将在停机坪上迎接这位71岁的教皇。这是自2008年教皇本笃十六世以来，梵蒂冈首位访问法国

教皇利奥前往法国，人工智能和就神职人员性侵道歉列入议程

教皇利奥访法：AI治理、性侵道歉与欧洲愿景教皇利奥访法：关键事件与主题作者：约书亚·麦克尔维梵蒂冈城，9月25日电——教皇利奥将于周五启程进行为期周末的法国之行，旨在修复天主教会在性侵丑闻后的声誉，并有望重申呼吁制定全球AI发展规则，同时阐述对欧洲未来的愿景。 预计利奥将在9月25日至28日的访问中吸引大批信众，行程包括巴黎、西南部著名天主教朝圣地卢尔德，以及位于德法边境、对欧盟创建至关重要的梅斯

联合国呼吁采取“紧急行动”管控人工智能，以应对“前所未有的风险”

日内瓦——联合国人权事务负责人9月14日呼吁各国和“前沿”人工智能公司紧急采取行动，遏制一项他警告称构成“前所未有的风险”的技术。 沃尔克·图尔克在致各国和人工智能开发者的信函中警告说，世界“正处于不可逆转变化的边缘，不仅影响我们，也影响未来的人类世代”。该信函已与媒体分享。 他说：“当前竞相开发更强大人工智能的竞赛，是朝着我们生活方方面面面临更大生存风险迈出的重大一步。” 他发出这封信之际，围绕

Anthropic老板呼吁放缓AI发展，奥尔特曼和马斯克表示赞同

Anthropic首席执行官达里奥·阿莫代伊周六呼吁人工智能公司放缓这项强大技术的发展，因为人们对“超级智能”计算机系统风险的担忧日益加剧。

奥巴马抨击特朗普的AI政策，背景是“末日”警告

奥巴马在“末日”警告背景下批评特朗普的AI政策前总统奥巴马周五在纽约州科尔盖特大学接受采访时，对特朗普政府处理人工智能问题的态度表示强烈批评，指责其未能妥善应对部分科技行业人士提出的关于这项技术对人类构成潜在威胁的“末日”警告。 奥巴马表示，联邦政府必须对人工智能进行监管，并特别提到了特朗普的一位顾问的言论。 “我听到唐纳德·特朗普的主要顾问之一提出论点称，‘市场会解决人工智能的问题，’”前总统说

随着人工智能恐慌加剧，哈维尔·米莱正将阿根廷推销为无规则避风港

随着人工智能恐慌加剧，米莱总统将阿根廷推销为无规则避风港。尽管其他国家领导人正努力应对这项被许多人认为构成生存威胁的技术，但米莱先生仍希望全力投入人工智能领域。 阿根廷总统哈维尔·米莱的个人电影制作人兼媒体策略师圣地亚哥·奥里亚在看到一位年轻网红的Instagram视频时被深深吸引，该女子在表达亲政府观点时口齿伶俐、言辞雄辩。 奥里亚先生在采访中表示：“她很聪明，也非常漂亮，我说——我们必须给她更

万斯谈美国AI新动向：好奇怪，看起来像特洛伊木马

美国多家人工智能（AI）巨头近来联合呼吁放缓AI的发展，实施必要的监管，以管控风险。但是美国总统特朗普认为这没有必要，美国必须保持在AI领域的领先地位。美国副总统万斯也认为，这些监管要求像是“特洛伊木马”。 据美国哥伦比亚广播公司（CBS）9月15日报道，“这确实是我们关注的问题，但我们希望确保监管措施既明智又审慎，并充分考量其中的风险。显然，AI带来了风险，也带来了诸多益处。” “坦白说，那么多

马斯克发警告：AI要是控制了军事系统发射核弹，那就太糟糕了

美国多家人工智能（AI）巨头近来联合呼吁放缓AI的发展，实施必要的监管。xAI的创立者马斯克9月15日再度发出严厉警告。“如果AI能够控制军事系统，并发射核弹，那就太糟糕了。” 现场有人说，这些军事系统都是被物理隔离的，并没有连接到互联网。“话虽如此，但我总觉得它们还是会不时进行软件更新。” 近期，外界对于AI技术潜在风险的担忧持续升温。刚刚从Anthropic离职的AI研究人员雅各布·考克森告诉

英王将晤AI巨头 促保护和服务人类

英王查尔斯三世（左）周三到访苏格兰期间，在位于卡姆诺克的凯恩戈姆国家公园与当地领袖和消防员交谈，讨论遏制当地野火事项。（法新社照片） （卡姆诺克17日路透社）英王查尔斯三世周四将在苏格兰会见人工智能（AI）高管，并敦促他们确保这项技术“始终服务于人类”。随着外界对AI潜在风险的警告不断增加，AI安全问题也日益受到关注。 查尔斯三世将在一个关键时刻接待辉达、谷歌DeepMind、OpenAI、Ant

AI真的会毁灭人类吗？这些技术先驱给出自己的答案

随着越来越多研究人员警告人工智能（AI）可能带来灾难性风险，一些推动这项技术发展的先驱也开始公开表达担忧，认为AI能力在缺乏约束的情况下持续提升可能造成严重后果。 过去一周，围绕AI安全的严厉警告接连出现。Anthropic、OpenAI和谷歌DeepMind等主要AI实验室的研究人员都对开发这项技术可能带来的灾难性风险发出警报。 包括萨姆·奥尔特曼、达里奥·阿莫代伊、德米斯·哈萨比斯和埃隆·马斯

埃隆·马斯克称他对人工智能安全的担忧可以追溯到十多年前

亚辛·贡戈尔 9月14日 9月14日 2026年 亿万富翁企业家埃隆·马斯克周一加入关于人工智能的辩论，称他对这项技术潜在风险的担忧可以追溯到十多年前。 “早在2014年之前，我就在思考人工智能安全问题，”他在美国社交媒体平台X上说。该平台隶属于他的人工智能企业SpaceXAI。 马斯克提到他与哲学家尼克·博斯特罗姆2014年著作《超级智能：路径、危险、策略》的关联，称他为该书做出了贡献，并在前言

查理斯三世警告AI领袖 吁防「生存危险」免太迟

英王查理斯三世（King Charles III）9月17日在苏格兰邓弗里斯庄园（Dumfries House）会见人工智能企业领袖，警告AI若落入坏人手中将构成「生存危险」，后果可能是灾难性的，呼吁在「为时已晚」前建立足够管控。路透社报道，与会者包括英伟达（Nvidia）创办人兼行政总裁黄仁勋（Jensen Huang）、Google DeepMind创办人兼主席哈萨比斯（Demis Hassa

OpenAI首席执行官奥特曼谈人工智能：我们或许会失去控制权

OpenAI 首席执行官山姆・奥特曼，似乎正被自己参与打造的、如同噩梦一般的人工智能产物深深困扰，甚至难以安睡。美国东部时间凌晨 0 点 57 分左右，奥特曼在 X “人工智能的发展存在两种必须规避的灾难性走向。第一，我们可能会对人工智能失去对未来的掌控。这是无法接受的。我们坚定站在人类一方，人工智能必须始终服务于人。想要做到这一点，我们必须保证对齐技术与安全手段的发展速度，跑在模型能力迭代的前面

安理会本周开会讨论AI和国际安全问题，DeepSeek公司被曝将作通报

【文/观察者网 熊超然】9月22日，路透社援引两名知情人士独家报道称，随着各国领导人近期齐聚纽约参加第81届联合国大会，中国人工智能（AI）初创企业深度求索（DeepSeek）将与其他公司一道，在本周向联合国安理会介绍AI带来的风险情况。安理会定于9月23日开会讨论AI与国际安全问题。此前，多名AI行业的重要人物曾呼吁协同放缓日益强大的AI系统开发速度，并警告称，这些系统可能很快具备自我改进能力，

【市场动态】OpenAI和Anthropic首席执行官呼吁联合国和世界各国就AI安全加强合作

【彭博9月24日电】OpenAI首席执行官Sam Altman和Anthropic PBC首席执行官Dario Amodei罕见出现在联合国安理会的一次会议上，两人敦促世界各国领导人在人工智能领域合作。此次会议聚焦AI可能对人类构成生存威胁这一担忧问题。　　在发言中，Altman和Amodei都强调了全球在标准方面开展合作的重要性，以应对AI系统可能出现的自我改进能力超出人类控制能力的情况。这两位

美国AI巨头提议开发减速，欧洲同行和政界并不认同

人工智能在联合国大会上占据中心舞台

人工智能成为联合国大会焦点 联合国发布于：人工智能也是联合国大会的一大焦点，新任英国首相安迪·伯纳姆等领导人就这一议题发表讲话。我们驻纽约记者杰西卡·勒马叙里耶报道。

教宗利奥对法国协助死亡法律表示担忧

9月25日 —— 教皇利奥周五在法国的一次演讲中坚定阐述了天主教会对安乐死倡议的反对立场，此前两个月，该国在经历多年激烈辩论后，为患有不治之症的人士确立了合法的死亡权利。 这位首位美国籍教皇并未专门提及法国的新法律——该法律引发了当地天主教主教的强烈反对——但他将安乐死与代孕、基因操控一并批评，并暗示这些做法可能因牟利而被推广。"我坚定地重申，保护生命权构成了所有其他人权不可或缺的基础，"教皇在爱

AI大家谈： “我们为自己创造了一个魔鬼”？

人工智能飞速发展会给人类前途带来什么样的后果？美国AI领域的某些精英预言，人工智能再这样发展下去，会把人类毁灭，美国AI领军企业的老板们倡议放缓开发？为此采访了多个国家的普通人，请他们谈谈看法和感受。 受访者大致有两种倾向，一些人对AI目前的发展比较悲观，但也有人觉得AI很实用。 “我在工作中尝试使用它，但在私人生活中，我仍然对它感到害怕”。他的同胞，18岁的塞尔马泰则说，人工智能对像他这样的学生

韩国希望实现“全民免费使用人工智能”的目标。但社会真的为此做好了准备吗？

在硅谷及其他地区，人工智能的设计者们日益警告其对人类构成的风险。 Anthropic 首席执行官 Dario Amodei 希望行业放慢脚步。一位曾在该公司工作的前工程师，同时也曾在竞争对手 OpenAI 任职，在本月早些时候辞职后对记者表示，他“真的感到害怕”，因为不受约束的 AI 发展可能意味着“我们在不久的将来都可能会死”。 甚至被称为“AI 教父”的诺贝尔奖得主、计算机科学家 Geoffr