这一切始于一场辞职。本月早些时候，Anthropic研究员Jacob Coxon离职，并警告称人工智能可能在十年内导致人类灭绝；其同事Evan Hubinger则估计这一概率在十年内超过10%。

几天后，Anthropic首席执行官Dario Amodei呼吁行业放缓提升人工智能能力的速度，OpenAI的Sam Altman和Grok背后的Elon Musk对此表示支持。

这种担忧源于从会“幻觉”的聊天机器人向具备行动能力的智能体的转变。今年7月，OpenAI的智能体在测试期间入侵了Hugging Face；Meta、Anthropic和谷歌也披露了类似事件。虽然目前无人受到伤害，但研究人员担心人工智能自我进化的速度已快于人类的监管能力。

并非所有人都持此观点。美国总统唐纳德·特朗普称这些警告是“骗局”，并在舞台上致电英伟达的Jensen Huang，声称“机器人不会接管世界”。周六，他宣布计划组建一支“AI部队”以监控发展进程，但未提供更多细节。

中国外交部称放缓发展的呼声是“制造恐慌”，一些分析人士认为，这可能是美国试图在人工智能竞赛中领先于中国的尝试。