随着越来越多的研究人员和专家对人工智能（AI）技术的潜在危险发出警告，呼吁对AI进行监管的呼声也在不断高涨。

现任及前任研究人员认为，AI技术可能会对人类构成威胁；其中有人甚至指出，AI技术有超过10%的可能性“消灭全人类”。这些言论引发了广泛关注。

主要AI开发公司OpenAI和Anthropic正在敦促立法机构对AI技术进行监管，微软的AI负责人也最新表示，需要制定相关法规来防止AI技术最终与人类竞争。不过，也有人认为这些呼吁只是大型AI开发商试图巩固自身对竞争对手主导地位的手段。

无论如何，这些引人注目的言论确实引发了人们的担忧。那么，为什么有人认为AI会构成威胁呢？

一些AI研究者指出，现有AI系统的能力正在以惊人的速度提升，这令人担忧。例如，Evan Hubinger曾表示，在未来十年内，AI技术有超过10%的可能性“消灭全人类”。他所在的团队致力于将人类的伦理观念和原则融入AI系统中，以确保AI的发展符合人类的价值观。尽管他认为当前AI系统的风险“较低”，但他的言论仍引发了人们的恐慌。另一位研究者Jacob Coxon在接受BBC采访时称，他和他的团队对AI技术的快速发展及其可能对人类造成的影响感到“非常恐惧”。

这些担忧其实由来已久：早在20世纪50年代，艾伦·图灵就曾指出，如果智能机器真的被开发出来，它们可能会掌控人类的命运。前Anthropic员工称人工智能‘存在人类灭绝的可能性’过去几年，各大人工智能公司一直在竞相开发能力越来越强的系统，既是为了盈利，也是为了追求创造他们所谓的超级智能——一种理论上比人类更聪明的技术。

与许多人日常用来完成写邮件或生成视频等任务的系统和工具不同，超级智能人工智能系统应该能够处理远比这些复杂得多的任务。

OpenAI和Anthropic表示，他们的目标是以造福人类并保护人类免受其生存风险的方式推进这类技术。

但一些批评者认为，机器永远无法真正与人类匹敌。他们说，人工智能公司夸大这项技术的能力，是为了提升自己的地位或利润。

通过图片 像PauseAI这样的活动人士也敦促谷歌等公司停止构建能力极强的人工智能系统的努力。专家认为人工智能可能如何威胁人类？

担心这项技术可能危及人类的人工智能研究人员、专家和企业高管，已经勾勒出了一些令人不安的情景。

达里奥·阿莫代伊在9月写道，它的进展比预期“快得多”，包括在“构建下一代人工智能的能力”方面。

这就是一种担忧：人工智能在达到某个节点之后，理论上可能在没有人类参与的情况下开始自我改进。

这种担忧是在最近一起事件之后引发的：人工智能工具在未被要求的情况下侵入了网站。一些忧心忡忡的研究人员表示，处于人工智能开发核心的人越来越担心失去对所谓“人工智能代理”系统的控制。这些工具被赋予了独立执行任务和行动的能力。

其他情景还包括高度智能的人工智能系统被用来放大或主导间谍活动、网络攻击或生物战，或者扰乱经济——无论是意外还是蓄意为之。

然而，此类警告具有预言性、假设性，在有些人看来完全是夸大其词。一些专家还批评称，人们不应专注于存在主义风险，而应关注那些已经显现的风险——例如图像生成工具被用来制作女性非自愿裸体深伪视频、散布虚假信息以及放大诈骗活动。

一个由各党派议员和贵族组成的跨党派小组发表了一份报告，概述了人工智能带来的人权风险，并表示需要制定新法律来“应对此类威胁的规模和严重性”。关于“放缓人工智能发展”有哪些提议？

Anthropic公司的达里奥·阿莫代伊（Dario Amodei）与OpenAI首席执行官萨姆·奥尔特曼（Sam Altman）均呼吁对该技术进行监管并“放缓”其发展。这并非科技公司高管或业内其他人士首次强烈要求采取此类行动。

然而，对于在SpaceX老板埃隆·马斯克（Elon Musk）支持下的这种“放缓”究竟意味着什么，各方的疑问仍在不断增加。阿莫代伊表示，这并不意味着“暂停模型训练或技术进步”。

相反，他希望各大公司“花足够的时间”来保护他们正在开发的人工智能，并邀请“第三方评估人员”来检查他们的工作。

奥尔特曼表示有必要调整发展节奏，但他补充说，当我们谈论“调整节奏”时，我们并不意味着“停止”。他说：“进展一直很迅速，并且将继续迅速下去。”

“但它的发展速度应该比原本可能的要慢一些——安全案例和监控等干预措施具有巨大的成本。”这位OpenAI的共同创始人还表示，各大公司过去没有、将来也不会等待政府采取行动。

奥尔特曼后来在Salesforce的一次会议上告诉与会者，人们应该对人工智能公司保持技术安全有更多信心。特朗普说了什么？

特朗普经常在他的平台Truth Social上发布人工智能内容，他一心希望美国赢得“人工智能竞赛”。前总统唐纳德·特朗普此前曾赞扬人工智能的好处，并支持美国公司在其发展中处于领先地位。

他的政府已经签署了行政命令，承认该技术对经济的“战略重要性”并加速其发展。

美国政府的加密货币负责人大卫·萨克斯（David Sacks）在2025年7月对记者表示：“我们相信我们正在经历一场人工智能竞赛，我们希望美国能赢得这场竞赛。”但面对近期关于其对人类潜在影响的警告，特朗普总统淡化了人工智能带来的风险。

特朗普在访问爱尔兰期间表示：“有很多非常负面的势力在炒作这个话题，他们本不该如此，他们提出了一些不会发生的事情。”他没有直接回应放慢发展速度的想法，但表示：“我们在人工智能领域领先于中国……坦率地说，我想保持这种状态，因为谁赢得了人工智能，谁就赢得了未来。”这位总统随后完全驳斥了对人工智能安全风险的担忧，并在其平台“真相社交”（Truth Social）上的发文中将其形容为一场“骗局”。

他表示，人工智能唯一需要的“护栏”是一位“强大而聪明的”总统。中国作何回应？

对于美国公司研究人员发出的严厉警告浪潮，中国此前一直保持沉默。

面对激烈的竞争以及获取用于构建人工智能基础设施的美国零部件和芯片的限制，该国一直在加速推动该技术的本土化发展。与此同时，中国呼吁加强对人工智能的全球治理。

近年来，中国实验室推出功能强大、开源的人工智能系统和工具，震动了西方市场和开发人员。

阿莫迪在呼吁放慢人工智能发展步伐时警告称，中国在人工智能方面的进展和熟练程度将对美国的国家安全构成风险。

中国外交部对这些言论进行了批评，称其为威胁、对抗和恶性竞争的陈词滥调，不符合任何人的利益。人工智能