全球最大的人工智能公司之一的联合创始人表示，可由第三方检查的人工智能“终止开关”可能需要成为企业的强制性要求。

Anthropic公司七位创始人之一的杰克·克拉克（Jack Clark）表示，在人工智能软件变得过于危险时将其完全关闭的方法，是社会“可能希望最终为此制定规则”的事情。

克拉克表示，包括Anthropic在内，“大多数实验室都有不同的方式来拔掉插头”，但他表示，政策制定者可能需要强制要求企业配备这种机制。

克拉克发表此番言论之际，越来越多的AI公司高管和员工以及人工智能专家公开表示，人工智能可能会毁灭全人类。

Anthropic公司负责人达里奥·阿莫迪（Dario Amodei）上周末呼吁放慢人工智能发展速度并加强监管，正如该公司此前多次做过的那样，尽管有人质疑其背后的动机。

阿莫迪并未具体说明应如何放缓人工智能的发展，并表示任何约束人工智能发展的行动都应在“不牺牲商业优势”的前提下进行。

克拉克告诉英国广播公司（BBC），有关“紧急停止开关”（kill switch）要求及验证的具体细节，应纳入当前围绕人工智能展开的“更广泛的政策讨论”之中。

“是否应该强制要求企业必须配备紧急停止开关？这种开关能否由第三方验证？”他问道。

“我认为这类问题是社会想要了解的，最终或许还会为此制定相关规则。”Anthropic成立于2021年，由其竞争对手OpenAI的一批前员工创办，目前正处于人工智能安全辩论的风口浪尖。

上周，一名因担忧人工智能可能毁灭人类而辞职离开Anthropic的人工智能研究员所发的一篇帖子在网上疯传。

对此，Anthropic公司的科学家埃文·哈宾格（Evan Hubinger）表示，他个人认为人工智能导致人类灭绝的可能性“在未来十年内超过10%”。

被誉为“人工智能教父”的计算机科学家、诺贝尔奖得主杰弗里·辛顿（Geoffrey Hinton）周五告诉BBC，人工智能杀死全人类的几率为10%这一说法“并非不合理”。

当被问及他认为人工智能杀死全人类的几率是多少时，克拉克表示“我认为这些统计数据没有多大用处”，但他补充说，让人工智能继续作为一个“完全不受监管的行业”存在是个坏主意。

“我们正在冒着巨大的风险在玩骰子，”克拉克说。“关键在于，我们必须改变这个行业的方向。”人工智能员工对人类的未来“感到真正恐惧”，前Anthropic研究员告诉BBC。英国政府拒绝了为危险人工智能设置“紧急停止开关”的提议。

美国立法者提出了一项名为“紧急停止开关法案”的立法，要求公司必须有一种关闭有问题的人工智能工具的方法。该法案还将赋予某些政府机构要求关闭或限制某个工具的权力。

然而，美国总统唐纳德·特朗普拒绝了任何试图减缓人工智能发展的想法，他在社交媒体上表示：“人工智能接管世界、毁灭人类以及所有其他坏事，都是一个骗局”。

他在另一篇帖子中说："针对人工智能和数据中心的邪恶阴谋正在上演，唯一为此感到高兴的只有中国。谁赢得人工智能，谁就赢得一切！"在英国，政府最近拒绝了设立"紧急终止开关"的想法，一位发言人表示，这"并不能阻止人工智能在其他地方被开发或滥用"。

与此同时，人工智能行业的一些人士认为，有关人工智能会毁灭人类的担忧被夸大了，或者可能是为了制造话题而刻意为之。

Anthropic开发了广受欢迎的聊天机器人Claude，今年已发布了多款能力日益强大的人工智能模型——这类技术正是人工智能聊天机器人的基础。

此后，Anthropic与OpenAI一道，主动报告了多起事件，在这些事件中，人工智能代理（即具有一定自主行动能力的机器人）做出了出乎意料的行为。

据报道，Anthropic正在筹备有望创下股市纪录的首次公开募股（IPO），届时人们将可购买该公司的股份。

OpenAI最近一次估值达8520亿美元（约合6300亿英镑），此前也被预期采取同样举措，但OpenAI的奥尔特曼（Altman）周五表示，由于当前围绕人工智能安全性的争论，今年不会上市。