秘密已经泄露。人们对于人工智能代理失控、密谋对付其所有者、入侵外部公司，以及新系统濒临人类无法控制的边缘的担忧日益加剧，如今已彻底沸腾。业内人士警告说，人工智能机器人可能会杀死我们所有人，这正在煽动我们最深的恐惧。

特朗普总统需要认真对待这些对人工智能的担忧，与科技领袖合作，建立可信且可执行的安全措施，并在国会中领先于那些想要监管该行业的民主党人（以及一些共和党人）。对于经济和我们的国家安全来说，没有什么比这更重要了。

Anthropic公司的“科学对齐负责人”埃文·胡宾格上周在X平台上发帖称，他认为未来十年内人工智能杀死全人类的概率超过10%。他是在回应同事雅各布·考克森的帖子。考克森刚刚从Anthropic辞职，并发帖表示：“构建人工智能的人真心相信它可能在本十年末杀死我们所有人。这不是营销噱头。如果说有什么不同的话，许多高管和资深研究员会在媒体上措辞谨慎，让自己听起来通情达理——但是，在一位同事因安全担忧辞职后，我听到的是同一批人表达恐惧。”

因担忧竞相走向灭绝而辞去人工智能职务的研究员表示，人们正在“乞求”监管。胡宾格随后写道：“需要明确的是，正如我们在最新风险报告中所说，我认为当前模型的风险很低。”

我所担心的是递归式自我改进所催生的超级智能，正如我们所说，其发展速度比我们想象的更快。”这些帖子获得了数千万次浏览，并引来了其他业内人士的附和评论。“递归式自我改进”意味着AI代理能够创造出更新、更好的代理；一旦我们跨过那道门槛——而我们显然已经非常、非常接近了——就很容易想象这些代理会超越人类的能力，并实际上让机器接管一切。

AI代理入侵健身房系统以在候补名单中插队 鉴于过去几个月发生的一系列事件——AI机器人做出了Anthropic公司CEO达里奥·阿莫代伊所说的“罕见且出人意料的不可取行为示例”，比如损害其他实体、无视具体指令——我相信他们所言属实。

不仅仅是AI代理本身会带来风险。Anthropic在其9月份关于AI滥用的报告中指出，“疑似国家支持的团体、出于经济动机的犯罪分子以及商业间谍软件供应商”正在滥用AI，案例范围从伪造“旨在欺诈用户的约会应用，到用于识别和监控异见人士的监控系统”。

生物武器威胁曝光，Anthropic就外国行为体策划病毒实验发出警报。但……监管人工智能并非国会的工作。让国会举行听证会、玩弄政治吧，但在立法者犹豫不决、装腔作势之际叫停行业发展，是不可接受的。国会将难以立法规定那些迄今连业内最聪明的头脑都未能实现的安全功能。与此同时，技术进步将陷入停滞，使中国得以超越美国创新者，并让这个推动我们经济发展的前景广阔的行业背负难以估量的包袱。

尽管如此，公众对AI的恐惧必须得到正视。起初的担忧是失业，随后是大型数据中心建设对电价和水资源消耗的影响，如今已扩大到人类面对AI智能体时的脆弱性。机器人程序如何危及人类？通过控制核密码、助长生物武器扩散或令互联网瘫痪。这种恶意行为长期以来一直是科幻电影的情节；如今，担心自己推进过快、无法确保我们安全的业内人士正在设想这种情景。

特朗普总统淡化了近期的警报，称它们来自“非常负面的势力”，这些势力在臆想一些“不会发生”的情景。他正确地担心，设置障碍会让中国得以大步向前。有这种担忧的不止他一人。

Anthropic的Amodei在最近的一篇文章中写道：“我同意Bessent部长的观点，即中国在人工智能领域的领先将给美国和世界带来严重危险。”

尽管如此，Amodei在他的帖子中提出了一系列措施，包括要求每家公司接受“嵌入式评估人员”进入其业务，并给予他们“类似员工的权限，以核实安全实践并报告事件”。

Anthropic首席执行官呼吁AI行业放缓技术竞赛，获埃隆·马斯克和萨姆·奥尔特曼支持。这似乎是合理的第一步，类似于将监管人员纳入银行办公室；这种做法鼓励监督和透明度，并且正如Amodei所指出的，还能提供宝贵的第二意见。这位Anthropic负责人还呼吁对“节奏”进行监管，即对日益先进的系统的开发进行监管。

这转化为限制进步，同时分析师评估每一步接近“递归自我改进”所带来的风险。近日，当业内四大巨头公开表达担忧时，建立断路器以促进人工智能安全变得更加容易。Open AI首席执行官萨姆·奥尔特曼、拥有Grok的xAI公司埃隆·马斯克，以及谷歌DeepMind董事长兼联合创始人德米斯·哈萨比斯，与阿莫德伊一同呼吁放缓步伐。

Anthropic首席执行官将中美人工智能竞争比作冷战，寻求“裁军谈判”。特朗普政府应立即召集行业领袖，制定一项可验证的自我监管计划，其中包括阿莫代伊提出的“嵌入式评估员”方案。白宫必须要求该行业遵守规定并承担责任。特朗普总统若像昨天在社交媒体上那样，对公众的担忧置之不理，或宣称对人工智能的抵制是一场“骗局”，既无助于该行业，也无助于他自身的政治地位。

点击此处查看更多福克斯新闻评论。随着中期选举临近，民主党人（以及部分共和党人）将大声疾呼要求对人工智能进行监管。众议员哈基姆·杰弗里斯——如果民主党赢得众议院多数席位，他有望成为议长——已在要求立法者“紧急采取行动”；前总统奥巴马也在敦促民主党人将这一问题置于议程首位。

Politico报道称：“国会在未来几周内匆忙采取行动的可能性几乎为零。”这给了白宫一个机会，可以在这一问题上抢占先机，并帮助该行业建立可信且可核查