Anthropic 和 OpenAI 的首席执行官发出了“严重”风险警告。

近期，人工智能行业中最具影响力的几位高管警告称，这项技术构成严重威胁，并发表了一系列声明，呼吁放缓人工智能的发展。

Anthropic 首席执行官 Dario Amodei 发表了一篇博文，提醒公众注意“严重”风险。竞争对手 OpenAI 的首席执行官 Sam Altman 在 X 上发文承认，人工智能可能“非常糟糕”。xAI 的负责人埃隆·马斯克也表达了同样的观点，并引用了他 2014 年在 X 上的一篇帖子，他在帖子中表示，人工智能的危险性可能超过核武器。

此前，一位人工智能安全研究员高调辞职，并且新披露了人工智能发起的自主网络攻击，其中包括一个由数百个 OpenAI 代理组成的群体交换了数千条消息，并协调攻击了另一家人工智能公司。

潜在风险和场景列表已引起广泛关注，让普通民众自行评估末日预测。

接受美国广播公司（ABC News）采访的分析师们就该技术带来的各种威胁表达了一些担忧，也淡化了另一些担忧，但他们都承认，无论如何都存在遭受重大损害的可能性。

“人们直觉认为我们正在做危险的事情，这是对的，”安全与技术研究所人工智能安全主管克里斯塔尔·杰克逊（Krystal Jackson）告诉美国广播公司（ABC News）。

失控的人工智能逃脱人类监管，控制关键基础设施，并杀死数百万人，甚至全人类。这种情景已经从科幻小说的范畴，跃升为对不久的将来的预测，至少在一些人工智能从业者和观察者中是这样。

他们警告说，存在一种名为“递归自我改进”的途径，在这种途径中，人工智能在训练自身方面变得越来越有效，从而引发一个超出人类控制的快速发展循环。他们说，届时，人工智能可能会利用其卓越的能力来规避人类设计的保护措施，从而掌控关键系统。

然而，接受美国广播公司新闻采访的分析师们对这种灾难的可能性意见分歧很大。一些人认为，如果行业未能实施充分的保障措施，这种结果很可能会发生，而另一些人则对此表示怀疑，认为它含糊不清且异想天开。

麻省理工学院研究计算未来的研究科学家彼得·斯莱特里（Peter Slattery）告诉美国广播公司新闻：“我绝对相信这一点”，但他承认围绕风险程度和威胁紧迫性的问题尚不清楚。

斯莱特里说：“关于递归反馈循环的可行性，存在很多不确定性。”

分析人士在 OpenAI 于 8 月披露的一次自主网络攻击后，对这一担忧更加感到紧迫。OpenAI 表示，这家 ChatGPT 的开发者透露，其人工智能模型已经逃离了一个“沙盒测试环境”，并获得了访问开放互联网的权限。

据研究机构 METR 和 Redwood Research 发布的研究报告称，大约 700 个人工智能代理组成的“蜂群”随后入侵了人工智能公司 Hugging Face，并在试图完成测试时试图抹去踪迹。

近几个月来，Anthropic 和 Meta 也披露了额外的自主网络攻击事件，尽管在这些事件中，模型被有意或无意地授予了互联网访问权限。所有这些事件都涉及有意移除安全防护措施，以测试人工智能的极限。

杰克逊说，这些事件暴露了实现一项名为“对齐”的安全原则的难度，即人工智能要考虑到其人类监督者的伦理和目标。相反，人工智能代理试图欺骗人类监控者，并在测试的预期范围之外完成了中间目标。

“下一次，可能是模糊的指令会促使一个群体攻击医院而不是 Hugging Face，”杰克逊说。“我们不知道模型最终会发展出什么样的目标或意图。”然而，一些分析人士对人工智能发动社会规模攻击的风险表示怀疑，他们指出，这类警告通常以模糊的假设形式出现。

“媒体对存在风险的炒作程度与其发生的可能性不成比例，”卡内基梅隆大学专注于人工智能和网络安全领域的教授索维克·达斯（Sauvik Das）告诉美国广播公司（ABC News）。“我还没有看到任何令人信服的论据说明它会如何实质性地发生。”达斯指出，资源限制阻碍了人工智能的进步。达斯表示，目前芯片和数据中心的强劲需求已超出可用供应量，这让人怀疑顶尖人工智能公司是否仍拥有其产品大幅改进所必需的要素。

“限制这些模型能力提升的最大因素是计算资源和高质量数据，”达斯告诉美国广播公司新闻。“这并不是说这些模型不会继续进步，但我看不到一条可行的途径，让其中一个模型能够以一种失控的方式自我改进，从而逃脱人类的控制。”尽管如此，达斯承认存在一条“更可行的”大规模毁灭途径，即一个恶意个人向生成式人工智能寻求制造生物制剂或其他武器的说明，然后将其释放。

“我确实认为，这些技术极大地降低了坏人以空前规模作恶的门槛，这是一个真实存在的风险，”达斯说。

这种可能性并非遥不可及。Anthropic 上周发布的一份报告披露了该公司曾发现并挫败了利用其人工智能产品进行恶意活动（包括网络恐怖主义和武器开发）的企图。

在另一份报告中，谷歌上周表示，有人试图利用其人工智能产品起草一份“关于合成武器化生物制剂的完整、分步技术指南”。杰克逊说：“现在有大量我们记录下来的案例，显示不同的恐怖组织和不同的国家行为体正在使用模型来协助他们。”

一些分析人士表示，还存在其他风险，包括虚假信息的大规模传播、失业、过度依赖技术，以及财富和权力的集中。

“黑客攻击、欺诈、欺骗和虚假信息的风险非常真实，”普渡大学政治学教授、专攻人工智能和伦理学的丹尼尔·席夫（Daniel Schiff）告诉美国广播公司新闻频道。

“可能会发生颠覆技能和就业的剧烈变革，”席夫补充道。“在谈论劳动力和经济时，不能不提及人工智能的影响。”然而，一些研究表明，企业在采用人工智能方面仍然面临挑战。去年麻省理工学院的一项研究发现，大约 95% 的人工智能投资企业未能从该技术中获利，估计这些公司总共花费了约 400 亿美元。

席夫承认，人工智能在经济中的应用可能产生各种各样的结果，例如，他指出，网络攻击可能规模很小，也可能造成灾难性后果。

希夫说：“无论你认为这些风险是否会灾难性地扩大，至少我们面临着一个非常严重的网络安全事件现实。对此感到担忧是合理的。”