中美谈AI安全：共同的风险，不同的恐惧

中美谈AI安全：共同的风险，不同的恐惧 邓聿文：中美领导人讨论AI安全，当然有助于建立最基本的危机沟通和军事红线。但真正的较量，将发生在“安全”这个词由谁解释上。 美国财政部长贝森特和中国副总理何立峰在纽约举行的新一轮经贸会谈，除了关税、稀土、美国农产品和波音飞机仍是重要议题外，增加了人工智能安全这项新内容。贝森特向中方提出建立AI安全事件通报机制，双方同意启动相关对话，并把这一建议交给即将举

联合国人权事务主管警告：人工智能可能对人类构成‘生存性’风险

杰弗里斯抨击特朗普反对人工智能监管护栏

周三，众议院少数党领袖哈基姆·杰弗里斯（D-纽约州）批评特朗普总统反对对人工智能（AI）发展实施联邦层面的监管。杰弗里斯指出，特朗普允许AI行业自我监管的做法其实是一个典型的、极其危险的做法——就好比“让狐狸来看守鸡舍”一样。他在国会大厦外对记者表示：“在这种情况下，签署任何完全无法强制执行的自愿协议、并让整个AI行业自行监管，显然都不是正确的应对方式；因为AI行业领导者自己都已经意识到这项技术可

参议员们试图在Flock引发担忧之际“彻查”人工智能驱动的监控网络

参议院的一个小组委员会星期三举行了关于人工智能监控摄像机制造商（如Flock Safety）的首次国会听证会，旨在查明该技术是否侵犯了公众的隐私权。该听证会以“时刻监视：Flock的全国性人工智能监控网络”为题，由参议院犯罪和反恐司法小组委员会主席参议员乔什霍利（R-莴苔）主导，他对Flock及其自动车牌识别系统（ALPR）网络展开了调查。 霍利在开幕致辞中表示：“我脑海中想象的是数十万个单独的摄

Anthropic对齐研究负责人称未来十年AI灭绝人类的可能性超过10%

一位Anthropic公司的安全研究员周二表示，人工智能有超过10%的概率可能 “毁灭全人类”。就在此番言论发表的数小时前，该公司另一名员工表示，因担忧人工智能实验室是在 “拿我们的生命做赌注”，他选择离职。 这些言论凸显出人工智能研发核心人士日益增长的担忧，即该技术可能失控并对人类构成威胁，尽管Anthropic和OpenAI仍在持续筹集大量资金，并朝着预期的公开上市迈进。 Anthropic的

【解读】人工智能真的会“杀光所有人”吗？

上周，人工智能公司 Anthropic 一位离职的研究人员发出严厉警告，称人工智能（AI）可能会在十年内“杀光所有人”，引起社会关注 AI 快速发展所带来的危险。 外界不禁问，为什么会出现这可能？而 AI 又可以怎样令人类灭亡？ 专家表示，担忧源于 AI 发展的速度，以及越来越多证据，如今年七月发生的 Hugging Face 网络攻击事件表明，AI 可以脱离人类控制，以我们不希望且无法理解的方式

美国参议员考虑要求人工智能巨头承诺防止灾难

华盛顿，9月14日：一名参议院助理和一位了解谈判情况的游说人士称，美国参议院谈判代表正在讨论一项立法，该立法将要求人工智能公司证明其正在采取合理预防措施，以防其工具造成伤害。 上周，Anthropic研究员雅各布·考克森表示他已辞职，部分原因是“构建人工智能的人真心相信，它可能在本十年结束前杀死我们所有人”，这加剧了人们对人工智能潜在危害的担忧。周一，在人工智能行业一些最大公司的领导人呼吁放缓该技

英国议员对AI的混乱之夏感到恐慌

随着AI代理失控以及对超级智能的担忧加剧，政界人士正在就其对人类生存的潜在危害发出警告。

议员提议禁止‘超级智能’并把违反者关进监狱

美国参议员伯尼·桑德斯和美国众议员格雷格·卡萨尔已提出新立法，该立法将禁止任何人开发人工超级智能 —— 该法案将这项技术描述为能够 “毁灭人类或剥夺人类权力”，包括通过推翻政府。 根据《禁止人工超级智能法案》，AI领军人物若违反该法，将面临最高20年监禁。 该法案并不只是针对更强大的超级智能。 还将暂停先进AI系统的开发，立法者将这些系统归类为在特定数据阈值上训练的前沿模型。 该法律只有在政府创建

坐看云起 | 对AI“终结者”的恐惧 或掩盖真正的中国威胁

Anthropic、OpenAI等公司近期发出的末日式人工智能（AI）警告激增，或反映了对这项快速发展的技术对人类构成威胁的真实恐惧，但也可能暗示了一种更平庸的恐惧，即中国对美国科技公司商业模式的威胁。随著美国总统特朗普和中国国家主席习近平本周在华盛顿会晤，两国可能正进入AI军备竞赛的新阶段。 金融市场长期以来一直担忧美国科技公司为支撑AI建设而进行的大规模借贷，但最近几周，业内高层人士突然抛出并

OpenAI首席执行员下周赴安理会作简报

阿尔特曼下周将到联合国安理会进行简报。（图：路透社） （华盛顿19日法新电）OpenAI周五表示，该公司首席执行员阿尔特曼将于下周在联合国大会期间，向联合国安全理事会作简报。 此次会议由国安理会轮值主席国的法国组织召开，此前该行业的主要参与者曾表示，出于安全考虑，可能有必要放缓人工智能的发展步伐。 随着人们对这项快速发展的技术所带来的危险的担忧日益加剧，联合国秘书长古特雷斯周三呼吁采取协调一致的国

美国众议长约翰逊对设置AI护栏持开放态度 恐惹特朗普不满

美国众议院议长迈克·约翰逊对监管人工智能（AI）持开放态度，与总统唐纳德·特朗普明确反对AI监管的立场形成冲突。在中期选举日益临近、共和党本已面临强阻力之际，这一立场冲突在党内造成了分歧。面对AI行业内部要求放慢技术开发的严厉警告，约翰逊周一表示，国会“可能”需要为该行业设置护栏，不过他同时警告，要制定一项能够获得足够广泛支持并获通过的法案可能需要“一些时间”。 美国众议院议长迈克·约翰逊约翰逊周

教皇利奥警告人工智能可能导致在巴黎的“机器天堂中丧失人性”——视频

资助独立新闻业，并节省资金 领取优惠领取优惠 卫报 - 返回首页 卫报 显示更多 隐藏展开菜单 # 教皇利奥在巴黎警告称，人工智能可能导致人类“在机器的乐园中迷失人性”——视频 教皇在访问法国期间继续谴责人工智能的崛起，并强调在一个飞速发展的技术威胁到人类的时代，保持“伦理辨别力”至关重要 教皇利奥在开始为期三天的法国访问之际，警告人工智能对人类构成威胁2026年9月25日星期五 12.49 E

特朗普要给“AI”改名：超18万人投票，“卓越智能”票数暂领先

IT之家 9 月 20 日消息，据 Techcrunch 报道，美国总统唐纳德 · 特朗普依旧以他标志性的方式回应了近期围绕人工智能安全展开的讨论。他宣称，各界对于 AI 风险的这些担忧，不过是“激进左翼民主党人长期炮制的一系列骗局之一，其目的就是毁掉我们的国家”。 当地时间周六，特朗普先是在自己的社交平台 Truth Social 上发文谈及人工智能。“很多人认为，‘人工智能’这个叫法本身并不准

911事件25年后 美国又嗅到了新威胁

世贸中心一号楼坐落在9.11袭击原址上“委员会认为，情报界以及更广泛的政策制定者必须慎重考虑如何防止AI工具被包括恐怖分子在内的恶意行为者利用。”这份报告旨在评估过去25年来美国为应对情报失误所采取的措施，而这些情报失误最终导致了2001年9月11日的恐怖袭击。 “自9/11以来，防止恐怖组织获得制造和使用大规模杀伤性武器所需的设备和专业知识，一直是情报界及国家安全机构的重要工作重点。前沿大型语言

改变人工智能进程的十天

旧金山，9月19日——多年来，人工智能领域的竞争一直遵循着硅谷一贯的“快速创新、打破传统”的发展模式：不断开发出更强大的人工智能系统。 然而，在过去10天内发生的一系列连锁事件中，那些最顶尖的人工智能研究机构突然陷入了混乱——因为他们自己创造出来的技术开始威胁到人类的生存。 一位人工智能研究员辞职，并警告称，人工智能的发展速度可能在未来十年内对人类构成生存威胁；另一位研究员则表示，人类灭绝的概率已

布鲁门撒尔表示，公众对人工智能的担忧正达到一个转折点

这位康涅狄格州民主党人承认公众对人工智能的担忧日益加剧，并敦促立法者将公众的担忧转化为具体的政策。 参议员理查德·布卢门撒尔周二表示，对人工智能风险的担忧已经引起了立法者的关注，公众正期待华盛顿采取措施来约束这项技术。 这位民主党人在未来生命研究所主办的华盛顿“亲人类大会”上表示：“我刚从康涅狄格回来，在我走遍全州的时候，很多人都在谈论人工智能，这是他们以前从未做过的。” 今年早些时候，一些人工智

华盛顿在人工智能问题上的瘫痪：放手一搏还是紧急刹车

特朗普总统 i一位政治家对人工智能的全力投入，就像踩足油门、毫无刹车，对反乌托邦风险或公众不满毫无顾虑。 民主党在人工智能问题上的立场矛盾重重，既对实验室持怀疑态度，又被它们的警告所震慑，但在是否应全面叫停人工智能的问题上却存在分歧。 为何如此？这一惊人的分歧使得今年就联邦人工智能监管达成共识几乎不可想象——而且很可能直到2029年初都是如此，无论谁赢得国会控制权。 聚焦特朗普从第一天起就以人工智

人工智慧先驱班吉欧示警AI失控风险 吁比照核武管制

（中央社蒙特娄16日综合外电报导）人工智慧（AI）研究先驱、加拿大电脑科学家班吉欧（Yoshua Bengio）告诉，人类正在失去对这项技术的控制，世界需要类似核武管制的防护规范。 报导，近几周以来，各界对AI危险性的担忧日益加剧，多家科技公司的员工陆续离职，并警告如果不遏止AI科技发展速度，可能对人类存亡构成威胁。 班吉欧现年62岁，是加拿大蒙特娄大学（University of Montrea

联合国聚焦人工智能风险 OpenAI与Anthropic负责人呼吁加强警惕与合作

23/09/2026 - 23:27 多家人工智能企业的负责人周三(9月23日）在联合国表示，人工智能的发展需要更高程度的警惕。Anthropic首席执行官达里奥·阿莫迪甚至承诺，必要时将单方面放慢研发速度。 OpenAI首席执行官萨姆·奥特曼在纽约向联合国安理会介绍情况时警告，人工智能目前的发展“需要极度关注”。他说：“随着人工智能

人工智能与全球政策真空：技术飞速发展、政策制定落后

ADAM SATARIANO, CECILIA KANG2026年9月28日本月，欧盟委员会主席乌尔苏拉·冯德莱恩召集高级官员，在布鲁塞尔郊外一座19世纪宫殿举行了一场闭门会议。会议的目的是为一场阐述这个27国集团未来一年优先事项的演讲做准备，人工智能占据了议程的核心位置。欧洲新任人工智能事务主管、德国工业巨头西门子董事长吉姆·哈格曼·斯纳贝介绍了欧洲可以如何利用这项技术获取经济利益。据两位了解会

Anthropic联手OpenAI呼吁放慢AI发展？剖析AI失控风险与算力门槛

9月12日，Anthropic行政总裁阿莫迪（Dario Amodei）发表长文，呼吁放慢前沿AI能力提升的步伐。OpenAI行政总裁奥特曼（Sam Altman）随后表示支持，xAI的老板马斯克也转发认同。据美媒披露，美国前总统奥巴马（Barack Obama）近日也表示，如果管理不当，人工智能技术可能「很危险」。Anthropic首席执行官达里欧．阿莫戴（Dario Amodei）发表长文，呼

如何治理人工智能的生存风险

当前，前沿人工智能技术治理方面的瘫痪状态正在当下造成切实损害，并增加未来发生灾难的可能性。 这种瘫痪被一套危险的借口所开脱：技术发展太快，监管跟不上；企业可以自我监管；在美国与中国的竞争中，公共安全可以往后放。各国政府一直难以给予人工智能风险应有的关注。在大国竞争和行业内部军备竞赛的双重态势下，许多国家不敢单独行动。在这种背景下，每一次呼吁克制都会遇到同样的反问：如果竞争对手不肯放慢，我们为什么要

英国议员呼吁出台新法律以应对人工智能对人权的威胁

在发生一系列安全事件后，委员会发出警告，称相关威胁包括公共人脸扫描和深度伪造。 英国议员要求对人工智能的权力施加更多限制，并警告称世界尚未对该技术“可能造成的严重”后果做好准备，这反映出全球范围内对此的担忧日益加剧。 由下议院和上议院议员组成的跨党派人权联合委员会表示，英国需要建立一个新的人工智能监管框架，包括设立独立的监管机构并出台保护公众的立法。