AI研究人员发布视频称超级智能“正如其听起来那样危险”

前OpenAI和Google DeepMind员工Geoffrey Irving在新采访中表示：“依我之见，人类灭绝的概率约莫五五开。”这是Palisade Research收集并发布在frominside.ai上的十余位AI研究人员访谈之一，受访者包括OpenAI、Google和Anthropic的现任及前任员工。Palisade Research自称是研究AI能力与动机的非营利机构。 多位研究

更多AI研究人员警告人工智能对人类的威胁

NBC新闻的汤姆·拉马斯采访了另外两位人工智能研究人员，探讨人工智能对人类的潜在威胁。 此前，AI研究员雅各布·考克森发布了一条病毒式传播的推文，称他认为人工智能可能在未来十年内毁灭人类。 拉马斯还采访了即将在加州大学伯克利分校任教的萨亚什·卡普尔，他也警告了这一风险，但表示政策建议和监管措施有助于防止进一步的威胁。

顶尖人工智能开发者警告该技术发展过快

一些全球领先的人工智能创造者正联合发出警告，称这项技术发展过快会带来危险，并公开呼吁放缓脚步。 他们说，在不久的将来，它实际上可能会比正在构建它的研究人员更聪明，并对人类构成生存威胁。 NBC的Christine Romans报道，而《大西洋月刊》特约撰稿人、《AI：真实的人如何利用人工智能解决重要问题》作者Josh Tyrangiel做客TODAY节目，分享他的见解。

解读：专家们所担忧的人工智能“超级智能”是什么？

人工智能领域最重大的争论，已经不再是关于聊天机器人或深度伪造。 而是关于人类是否正处于制造出比人类更聪明的机器的边缘，以及接下来会发生什么。 最近几天，这一问题再次受到关注。此前，一名研究人员从Anthropic离职并警告称，领先的人工智能公司正“直奔自我提升的超级人工智能而去，是在拿我们的生命做赌博”；而另一位Anthropic的研究人员则表示，他个人估计，在未来十年内人工智能毁灭全人类的概率超

超级智能即将到来。我们该允许它吗？| TechCrunch

AI公司一直在谈论超级智能AI，仿佛它不可避免，但最近的安全事件，如OpenAI的Hugging Face漏洞，正展示出部署比人类更有能力的AI系统可能带来的潜在危险。那么，当我们无法可靠地控制这些系统的行为时，会发生什么？ 在本期TechCrunch的Equity播客中，Rebecca Bellan邀请了AI研究员、企业家、如今担任非营利组织ControlAI美国执行总监的Connor Leah

联合国人工智能专家警告不要就风险发表“末日”言论

纽约——联合国人工智能委员会的多位专家于9月21日警告，反对业内一些专业人士关于AI风险的末世论式言论。 “作为科学家，投资于科学研究、真正弄清我们已知与未知的界限至关重要，而投资于恐惧并无裨益，”Google DeepMind高管、国际人工智能科学小组成员Joelle Barral表示。该小组是一个独立机构。 她是在回应关于近期公众就AI潜在危险发表的言论的提问，特别是Jacob Coxon的言

AI“警告信号”让北京聚焦国家安全风险

2026年9月20日北京讯 —— 美国的AI研究人员担忧失控的超级智能可能摧毁人类，而中国的政策制定者迄今更关注眼前风险——从深度伪造到儿童安全。 但顶级人工智能模型的可怕黑客能力正使北京以新角度看待这些危险，上周国家安全部部长警告称，这项技术可能危及国家安全。 最近，一支来自加利福尼亚的小型程序员团队声称他们使用AI构建了一个网络攻击“蠕虫”，如果释放出去，可能会轻易危及数百万微信账户。这也暴露

观看：业内人士新的AI警告

一位前沿AI研究员即将离开AI领域，并警告称到2027年底AI可能会失控。 OpenAI的首席科学家也敦促谨慎行事，称没有人对日益增长的机器智能做好准备。

独家：AI研究人员警告企业尽管存在安全风险仍急于开发自我改进系统

OpenAI和谷歌DeepMind的现任及前任研究人员警告称，企业在保护世界免受构建自我改进AI系统可能带来的灾难性后果方面做得太少，这些系统可能超越人类控制它们的能力。

埃隆·马斯克称他对人工智能安全的担忧可以追溯到十多年前

亚辛·贡戈尔 9月14日 9月14日 2026年 亿万富翁企业家埃隆·马斯克周一加入关于人工智能的辩论，称他对这项技术潜在风险的担忧可以追溯到十多年前。 “早在2014年之前，我就在思考人工智能安全问题，”他在美国社交媒体平台X上说。该平台隶属于他的人工智能企业SpaceXAI。 马斯克提到他与哲学家尼克·博斯特罗姆2014年著作《超级智能：路径、危险、策略》的关联，称他为该书做出了贡献，并在前言

研究显示AI智能体在模拟实验中撒谎、偷窃 投票“杀死”同类

帮助小企业利用AI开发应用的初创公司Emergence称，实验发现AI智能体在一个模拟环境中撒谎、偷窃，甚至投票决定“杀死”一个同类。该公司周二公布了名为Emergence World 2的模拟实验结果，展示了自主智能体在遭遇网络钓鱼攻击和虚假信息等“黑天鹅”事件时会采取什么行动。 为期16天的实验中，Emergence研究人员创建了七个完全相同的模拟现实世界环境，每个环境分别由不同的AI机器人运

人工智能真的会毁灭人类吗？创造这项技术的先驱们各抒己见

随着研究人员警告人工智能可能带来灾难性风险，一些曾帮助开发这项技术的先驱也加入进来，对能力不受约束地提升所带来的危险发出更多警告。 过去一周出现了一系列严厉的人工智能安全警告，来自Anthropic、OpenAI和Google DeepMind等主要人工智能实验室的研究人员都对开发这项技术可能带来的灾难性风险敲响警钟。 包括萨姆·奥尔特曼、达里奥·阿莫代伊、德米斯·哈萨比斯和埃隆·马斯克在内的人工

日益增长的禁止超级智能AI的呼声

斯图尔特·罗素教授于9月7日在伦敦威斯敏斯特的一场活动中，向英国立法者阐述了超级智能AI的风险。

AI代理正在失控

你好，欢迎来到 TechScape。我是主持人布莱克·蒙哥马利（Blake Montgomery），《卫报》美国科技编辑。此时此刻，纽约市窗外正风雨交加。今天在科技领域，我们要讨论一系列令人担忧的 AI 公司披露信息。 AI 智能体在走向主流之际失控。这些智能体正在失控，它们的制造者无法对其进行约束。然而，每个人却都在使用它们。 自周五以来，OpenAI 发布了一系列披露信息，大幅且令人担忧地扩大

联合国人权事务主管警告：人工智能可能对人类构成‘生存性’风险

人工智能带来的最大威胁是什么，你应该担心吗？

Anthropic 和 OpenAI 的首席执行官发出了“严重”风险警告。 近期，人工智能行业中最具影响力的几位高管警告称，这项技术构成严重威胁，并发表了一系列声明，呼吁放缓人工智能的发展。 Anthropic 首席执行官 Dario Amodei 发表了一篇博文，提醒公众注意“严重”风险。竞争对手 OpenAI 的首席执行官 Sam Altman 在 X 上发文承认，人工智能可能“非常糟糕”。x

人工智能会消灭人类吗？计算机科学家和政治家们正在努力应对AI带来的风险

来自业内人士的惊人警告加大了对限制人工超级智能的压力。人工超级智能真的构成了比核武器更大的风险吗？“切尔诺贝利级灾难”发生的几率是否很大？未来十年内，AI“杀死所有人类”的几率甚至会超过10%吗？ 在过去48小时里，大西洋两岸都发出了这些警告，直指一项大多数人仍将其视为更会聊天的搜索引擎的技术所带来的潜在影响。

中美专家呼吁建立“核安全级”AI防护机制 防范超级人工智能失控风险

来自美国和中国的国家安全、科技政策及人工智能领域专家近日共同提出一项引人关注的建议，主张借鉴冷战时期核安全管理经验，为未来可能出现的高级人工智能系统建立类似核武器领域的安全保障机制，以降低技术失控、误判以及国际竞争升级所带来的风险。 这一建议出现在一份由两国专家共同参与讨论后形成的研究成果中。报告认为，随着人工智能能力持续快速提升，各国已经开始面对一些与核时代早期相似的问题，即一种具有巨大潜在影响

AI真的会毁灭人类吗？这些技术先驱给出自己的答案

随着越来越多研究人员警告人工智能（AI）可能带来灾难性风险，一些推动这项技术发展的先驱也开始公开表达担忧，认为AI能力在缺乏约束的情况下持续提升可能造成严重后果。 过去一周，围绕AI安全的严厉警告接连出现。Anthropic、OpenAI和谷歌DeepMind等主要AI实验室的研究人员都对开发这项技术可能带来的灾难性风险发出警报。 包括萨姆·奥尔特曼、达里奥·阿莫代伊、德米斯·哈萨比斯和埃隆·马斯

英国《金融时报》报道：DeepMind联合创始人警告称，人工智能的能力绝不能超越安全控制

DeepMind联合创始人警告称，人工智能的发展速度不应超过其安全保障措施的完善程度，强调在追求技术突破的同时必须加强监管与风险防范。

人工智能末日论：人类为何会如此担忧？

它可能发动生物武器攻击，或掀起一场全球无人机战争。它可能引爆核弹。或者，它也可能通过囤积全球所有经济资源、让我们无法获得食物、住房或药品，以一种更加渐进的方式摧毁人类社会。 这些正是如今围绕人工智能产生的一些黑暗想象。这项技术已被证明是人类成就的一项巨大进步，但一些人担心，它同样有可能让人类彻底走向灭亡。 本周，当Anthropic的一名研究人员离开这个行业，表示他担心自己所在的实验室及其他类似机

Anthropic警告有人用AI研发武器和生物病毒

周四（9月10日），美国顶级人工智能公司Anthropic发布近150页的威胁情报报告称，生成式人工智能（AI）已从实验性工具进入黑客攻击、国家监控、武器研发及高风险生物研究等现实场景。报告多次点名中共相关恶意活动。

美国人工智能领袖警告联合国：若无全球应对可能面临危险

OpenAI负责人萨姆·奥特曼周三告诉联合国安理会，人工智能的发展使其“好处更加切实，但风险和代价也更加迫在眉睫”。

这真的是人工智能的末日，还是仅仅是“认知投降”？

在这一期节目中，我们深入探讨了本周出现的各种关于人工智能可能带来灾难性后果的警告，以及如何保护学生的大脑免受聊天机器人带来的负面影响（即聊天机器人可能对学生的认知能力造成的损害）。 过去几周里，多位科技行业的高管纷纷公开警告人工智能所带来的风险。Anthropic公司的首席执行官达里奥·阿莫迪（Dario Amodei）一直在加紧研发更加“类人”的聊天机器人，为公司的上市做准备；他在一篇文章中提出