随着研究人员警告人工智能可能带来灾难性风险，一些曾帮助开发这项技术的先驱也加入进来，对能力不受约束地提升所带来的危险发出更多警告。

过去一周出现了一系列严厉的人工智能安全警告，来自Anthropic、OpenAI和Google DeepMind等主要人工智能实验室的研究人员都对开发这项技术可能带来的灾难性风险敲响警钟。

包括萨姆·奥尔特曼、达里奥·阿莫代伊、德米斯·哈萨比斯和埃隆·马斯克在内的人工智能企业负责人展现出罕见的一致，呼吁放缓发展并加强监管。

与此同时，相关担忧也加剧了华盛顿的辩论。尽管来自民主党和共和党的一些国会议员主张通过法案来制约人工智能的发展，但美国总统唐纳德·特朗普周一却对日益高涨的人工智能监管呼声大发雷霆。

但那些帮助创造人工智能的人，如何看待当今许多人在构建这项技术时面临的生存风险？

约书亚·本吉奥（Yoshua Bengio）是加拿大计算机科学家，被视为现代深度学习的核心先驱之一。

9月9日，本吉奥在回应Anthropic研究员雅各布·考克森宣布辞职时表示：“前沿人工智能实验室的科学家对最先进的模型有着独特的洞察力。”考克森曾警告称，人工智能可能“在这个十年结束前将我们所有人杀死”。

他补充说，科学家们往往能在“模型向公众发布前数月就预见到相关风险”。“他们的视角对于让社会保持知情至关重要，应当得到极其认真的对待。”在这场社交媒体风暴开始的前几天，OpenAI的首席科学家曾警告称，“没有人对人工智能的后果做好准备”。

在周五发表的博客中，本吉奥表示，当今的人工智能系统“已经具备了必要的黑客技能和说服力，可能被用来以严重有害的方式对抗人类利益”。他还补充说，近期事件表明，人工智能可以制定跨越数天或数周的计划，而如果“其长期战略规划能力继续提升，风险将会严重得多”。本吉奥说：“我对人工智能公司当前试图缓解目标偏离的努力所持的担忧是，这些努力可能只是把它隐藏起来，通过奖励和挑选那些作弊却不被抓住的人工智能来实现。我们当然应该继续研究，以更好地监控人工智能的行为、思维链及其网络内部的活动。”杰弗里·辛顿是多伦多大学荣休教授，被视为神经网络和深度学习的先驱。

9月10日，当BBC问辛顿是否认为人工智能在未来十年内有超过10%的可能性杀死所有人类时，辛顿表示：“这种事情很难估计，因为我们以前从未有过这样的东西。我们从未创造过可能很快比我们更聪明的生物。”

10%的可能性并非“不合理”，他补充说，“没有人真正知道如何给出合理的估计。”人工智能系统可以设计出“非常恶劣”的生物病毒，以及计算机病毒，并实施“毁灭性的网络攻击”。他说：“如果它想的话，还有无数其他方法可以消灭我们。我们必须弄清楚如何设计它，让它不想这样做。”

“我们有两种可能的未来，”辛顿补充道。“一种是我们能在这些危险失控之前设法应对，另一种是我们做不到。”艾丹·戈麦斯 人工智能公司Cohere的首席执行官兼联合创始人艾丹·戈麦斯是2017年研究论文《注意力就是你所需要的一切》的作者之一，该论文为当今领先的人工智能模型奠定了基础。

“我认为这些模型是有史以来创造出的最强大的网络武器，是我们见过的最强大的。它们非常擅长大规模发现和利用漏洞，”戈麦斯在9月1日接受CNBC的“科技下载”播客采访时表示。

“最近的事件清楚表明了一件事，部署环境的安全性决定了安全，”他说，指的是今年夏天由失控的人工智能模型进行的网络安全攻击。

Gomez告诉CNBC：“薄弱的容器安全才是导致逃逸事件的原因，而非任何朝向自主系统的内在推动力。政策制定者在考虑如何治理AI时，应当认识到不同的系统承载着不同的风险，规则不应仅由追求AGI的大型科技公司来塑造。”在谷歌上 。