马斯克发警告：AI要是控制了军事系统发射核弹，那就太糟糕了

美国多家人工智能（AI）巨头近来联合呼吁放缓AI的发展，实施必要的监管。xAI的创立者马斯克9月15日再度发出严厉警告。“如果AI能够控制军事系统，并发射核弹，那就太糟糕了。” 现场有人说，这些军事系统都是被物理隔离的，并没有连接到互联网。“话虽如此，但我总觉得它们还是会不时进行软件更新。” 近期，外界对于AI技术潜在风险的担忧持续升温。刚刚从Anthropic离职的AI研究人员雅各布·考克森告诉

特朗普致电并打断英伟达CEO，称对AI的担忧是“一场骗局”

新闻快讯 美国总统唐纳德·特朗普出人意料地致电AI芯片公司英伟达的CEO，打断了一场直播活动，讨论近期对AI发展的担忧。在与黄仁勋通过免提通话时，特朗普称这些担忧是“一场骗局”。发布于2026年9月15日

人工智能安全辩论

真有末日或深层盘算 美巨头齐喊放慢AI重点一次看

（中央社旧金山14日综合外电报导）多名美国AI企业领袖近日以安全理由呼吁放慢AI研发脚步。美国总统川普与辉达执行长黄仁勋则持相反看法，川普甚至称「AI将接管世界」的说法是骗局，放缓只会让北京得利。 ● 人类毁灭倒数？矽谷巨头罕见齐吁缓AI、建护栏包括Anthropic执行长阿莫戴（Dario Amodei）、OpenAI执行长阿特曼（Sam Altman）、xAI创办人马斯克（Elon Musk）

特朗普下周拟在白宫召集AI行业高管

人工智能（AI）安全和监管，这场源于对人类命运严峻警告的辩论，已在华盛顿和硅谷内部形成了两大阵营——以美国总统特朗普为首的“激进发展派”，以及以“AI三巨头”为首的“慢节奏派”。 AI安全引爆舆论这场舆论风暴最初是由Anthropic的研究员Jacob Coxon引发的。他上周宣布辞职，并指责该公司及其主要竞争对手OpenAI的行为不负责任。曾先后在这两家公司担任研究员的Coxon在X网站上发帖称

中美AI竞赛：世界变得更危险还是更安全？

关于人工智能（AI）及其潜在危险的警告，近年来可谓接连不断。 美国最大的人工智能公司之一——Anthropic——的一名顶尖AI安全研究人员警告说，这项技术正以惊人的速度发展，未来十年内，AI“可能导致全人类灭绝”的概率高达10%。 这样的担忧引发了要求美国采取协调一致行动、放缓AI发展速度的呼声。但与此同时，也有人质疑是否真的有必要为AI设置监管“护栏”。美国总统特朗普就是其中之一。他认为，如果

比尔·盖茨警告称，人工智能“强大到足以引发导致十亿人死亡的事件”

比尔·盖茨对人工智能可能被滥用深感担忧。这名微软联合创始人在接受美国全国广播公司《Meet the Press》采访时，就这项技术发出严厉警告，称“人工智能的威力绝对足以推动一些事件，最终造成十亿人死亡。”盖茨还表示，该行业需要政府监管。他说：“你需要执法部门和政治人物参与讨论，明确安全保障和监测机制应当采取什么形式。” 盖茨的言论与Anthropic首席执行官达里奥·阿莫代伊的观点不谋而合。阿莫

比尔·盖茨：AI已强大到足以造成“10亿人死亡”

盖茨在即将于本周末播出的美国全国广播公司（NBC）《与新闻界对话》（Meet the Press）节目采访片段中表示： “AI确实足够强大，能够引发导致……你知道的，造成10亿人死亡的事件。历史上从未出现过一种武器，能像坏人与最新AI工具相结合那样强大。” 随着技术的快速迭代，硅谷对AI可能带来毁灭性灾难的警告不断升级。 本月早些时候，Anthropic公司的普通员工Jacob Coxon辞去

英王将晤AI巨头 促保护和服务人类

英王查尔斯三世（左）周三到访苏格兰期间，在位于卡姆诺克的凯恩戈姆国家公园与当地领袖和消防员交谈，讨论遏制当地野火事项。（法新社照片） （卡姆诺克17日路透社）英王查尔斯三世周四将在苏格兰会见人工智能（AI）高管，并敦促他们确保这项技术“始终服务于人类”。随着外界对AI潜在风险的警告不断增加，AI安全问题也日益受到关注。 查尔斯三世将在一个关键时刻接待辉达、谷歌DeepMind、OpenAI、Ant

Anthropic首席执行官未能预见全球AI的增长速度

Anthropic首席执行官没有预见到全球AI的增长速度。新闻快讯：Anthropic首席执行官表示，他“未曾意识到”AI增长支撑全球经济的速度。他呼吁放缓AI发展的言论在全球股市引发震动，但得到了其他科技领袖的支持，他们认为需要更好的保障措施。发布于2026年9月16日

“零概率”：英伟达首席执行官对人工智能带来的“灭绝级”威胁的回应

英伟达首席执行官黄仁勋再次反驳了人工智能末日论，他在一次采访中表示，这项技术并不会给人类带来灭绝风险。黄仁勋称，正如一些行业专家所预测的那样，人工智能导致世界末日的可能性为“零”。“无论人们如何描述，2030年都不会是世界末日。世界末日发生的概率是零，”黄仁勋在接受哥伦比亚广播公司新闻（CBS News）的采访中表示，该采访将于周日播出。 在近期多次公开露面中，这位首席执行官重申了他的立场，即人工

“新债王”：清算时刻必将到来，未来6到9月应全面进入防御姿态

市场的好日子已经结束？ 被称为“新债王”的Jeffrey Gundlach近日在接受The Julia La Roche Show采访时明确表示，市场已经“跨入了艰难的一侧”。他预计未来6至9个月将是高风险阶段，建议投资者全面转向防御，并已将自身投资组合中的AI敞口清零。 他建议股票敞口配置于等权重指数，以收入最高的约440家公司等权重持有，“这样你在AI上的敞口几乎为零，尽可能远离那个区域”。他

联合国人权事务高级专员警告：人工智能可能对人类构成“生存威胁"

联合国人权事务高级专员沃尔克·图尔克（Volker Türk）周一（9月7日）警告称，人工智能可能变得足够强大，足以威胁人类，并表示他将在未来几天敦促各公司降低风险。 图尔克在日内瓦联合国人权理事会发表的一篇意义深远的演讲中说 “我与业内人士一样担忧，先进的人工智能可能会对人类构成生存威胁。” 即将于下个月开始第二个任期的图尔克呼吁“必须全力以赴，在为时已晚之前，为人工智能的安全保障建立铁一般的保

Axios专访：萨姆·奥尔特曼令人警醒的警钟

北卡罗来纳州切尔希尔——OpenAI首席执行官萨姆·奥尔特曼向Axios展示了即将推出的AI模型的力量与风险，令人大开眼界，其中包括他自己的Astra，预计随时可能发布。 “请相信我们，我们即将推出强大得多、多得多的模型，”奥尔特曼周三在G20创新峰会上接受Axios的玛丽亚·库里和我的采访时谨慎地说道。“下一代模型将让所有人清醒。 ……我认为，任何诚实理智的人看到正在发生的事情，都会感受到我们面

在总统杯高尔夫球赛期间，特朗普总统表示

，他和Anthropic首席执行官达里奥·阿莫代将讨论因安全担忧而呼吁放缓AI发展的问题。

OpenAI、谷歌和Anthropic将于2027年初前成立人工智能安全组织：报道

在关于人工智能风险的激烈辩论中，据报道，OpenAI、Anthropic 和 Google 正计划合作成立一个 AI 安全组织。据 The Information 报道，这些 AI 巨头可能会在 2027 年初启动该项目。这个自律性组织暂定名为“前沿 AI 标准局”。 此计划的提出，距离前 Anthropic 研究员 Jacob Coxon 对 AI 公司敲响警钟仅数周时间，他声称 Claude

美中AI竞争或进入关键时间节点

邓聿文：哪一种体系更有能力承受AI从实验室走向整个经济和社会之后带来的巨大资源需求、社会阻力和风险压力，也可能成为决定因素。 9月14日，全球AI相关股票出现一轮大跌。美国费城半导体指数一度下挫5.2%，欧洲和亚洲的AI概念股也普遍遭到抛售。芯片和半导体股大跌以前也出现过多次，但这次的背景很不一样，直接诱因是美国几位最重要的AI企业家公开要求给人工智能的发展踩刹车。 Anthropic首席执行官阿

黄仁勋驳斥AI末日论：2030年前人类遭毁灭的机率是零

美国多个AI领域龙头及开发者近日纷纷就人工智能（AI）安全议题示警，呼吁放缓前沿AI模型开发脚步，有AI研究人员甚至提出「业内人士真心相信人类2030年前将遭AI灭绝」的说法。英伟达（Nvidia，又译辉达）行政总裁黄仁勋在9月18日释出的受访片段中，呼应美国总统特朗普（Donald Trump，又译川普）的立场，称2030年前人类遭AI毁灭的机率是零。美国哥伦比亚广播公司（CBS）18日释出黄仁

山姆·奥特曼揭示最让他恐惧的两种AI威胁

OpenAI 首席执行官 Sam Al特曼阐述了人工智能进步可能对人类构成巨大威胁的两大途径。 大型语言模型GPT的开发者奥特曼，以及Anthropic的达里奥·阿莫代伊、埃隆·马斯克等最有权势的人工智能公司首席执行官，都在呼吁放缓这项技术的加速发展，因为他们担心这可能会对人类造成影响。 奥特曼在X平台上发帖称：“人工智能的发展有两种可能走向糟糕的局面，我们必须避免。”一种是人类失去对人工智能的控

AI领袖们在多年不计后果地狂飙之后想要踩下刹车

多年来，各大前沿人工智能实验室一直表现得仿佛正身处一场全力以赴、赢家通吃的竞赛，而终点线就是掌控足以改变世界的机器超级智能（或至少是能改变市场格局的人工通用智能）。本周末，整个行业迅速开始背离这种姿态，转而敦促各方协调合作，放缓前沿人工智能的开发，他们称这类人工智能可能很快就会变得过于危险、过于不可知，从而难以控制。 Anthropic 的达里奥·阿莫代伊（Dario Amodei）站在这场语气转

Anthropic CEO谈放缓AI研发：这个行业撒谎太久了，AI风险是真实的，但也无需“把一切都关掉”

就在全球AI三大巨头罕见联手呼吁“放缓AI研发”的同一个周末，Anthropic CEO Dario Amodei坐到了CBS的镜头前，说出了AI可能对人类带来的风险。 Amodei表示，已有人尝试利用AI研发生物武器、增强病毒传染性，这是他每天醒来都要面对的事情。 就在两天前，我们发布了一份报告，内容是关于有人滥用AI模型来研发生物武器。我每天早上醒来都会读到这类威胁报告——有人试图用我们的模型

改变人工智能进程的十天

旧金山，9月19日——多年来，人工智能领域的竞争一直遵循着硅谷一贯的“快速创新、打破传统”的发展模式：不断开发出更强大的人工智能系统。 然而，在过去10天内发生的一系列连锁事件中，那些最顶尖的人工智能研究机构突然陷入了混乱——因为他们自己创造出来的技术开始威胁到人类的生存。 一位人工智能研究员辞职，并警告称，人工智能的发展速度可能在未来十年内对人类构成生存威胁；另一位研究员则表示，人类灭绝的概率已

AI领袖呼吁放缓发展步伐

在一名研究人员发出人工智能可能很快毁灭人类的不祥警告后，越来越多的人工智能领袖呼吁放缓这项技术的发展。Anthropic首席执行官达里奥·阿莫代伊呼吁放缓人工智能能力开发后不久，包括OpenAI首席执行官萨姆·奥尔特曼和xAI首席执行官埃隆·马斯克在内的多位竞争对手也纷纷效仿。此前，27岁的人工智能研究员雅各布·考克森发文称，这些公司的研究人员“相信人工智能可能杀死全人类”，却仍竞相推进超级智能的

英国《金融时报》报道：DeepMind联合创始人警告称，人工智能的能力绝不能超越安全控制

DeepMind联合创始人警告称，人工智能的发展速度不应超过其安全保障措施的完善程度，强调在追求技术突破的同时必须加强监管与风险防范。