。并非所有在大型人工智能公司工作的员工都认为这项技术意味着人类的末日。

在文字交流和对话中，多位曾在OpenAI、Meta和DeepMind等公司工作过的人士对“不受限制的人工智能发展将导致大规模杀伤性工具出现”这一观点持怀疑态度。

对于近期业内人士发出的一连串高调警告，BBC收到的反应包括“哈哈”、“笑死”以及“纯属搞笑”等。

尽管这些担忧由来已久，但前Anthropic员工雅各布·考克森（Jacob Coxon）上周提出的主张在网上疯传，并得到了业内其他人士的响应，他们纷纷呼吁放缓人工智能的发展速度。

关于未来的AI工具或智能体（即被编程为具有一定自主操作能力的AI机器人）可能危及人类的观点，在网上得到了来自Anthropic、OpenAI、DeepMind以及拥有AI初创公司xAI的埃隆·马斯克（Elon Musk）旗下员工的支持。

所有接受BBC采访的员工均要求匿名，因为他们未获准向媒体发表言论。BBC已知晓他们的身份。

“我的第一反应是，‘那个人？’”一位曾在OpenAI工作、与考克森共事时就认识他的前员工说道。

目前在另一家AI公司工作的那位人士表示，他们对这种新一轮人工智能生存恐惧感到好笑，很大程度上是因为支持者们在捍卫“全人类生命危在旦夕”这一观点时，提供的细节少之又少。

该人士称，这些主张“总是含糊其辞”，并补充说，当他们听起来具体时，往往又会产生重大的逻辑跳跃或基于假设的情况。

考克森曾表示，一组基于目前尚不存在的AI模型的AI智能体，可能会决定制造并瞄准生物武器，但他并未详细说明这具体将如何发生。

“人类有可能灭绝，”一位前 Anthropic 公司员工表示。这位名叫 Rishub Jain 的人士在今年夏天创立了专注于 AI 安全研究的公司 Sampura Research；他在 DeepMind 工作了七年后提出了这一观点。Jain 告诉 BBC，目前许多 AI 领域的从业者对于这些潜在风险的态度“确实带有一些玩笑成分”。

“关于这个话题的讨论已经持续了很多年，AI 公司的从业者们并不是上周才突然意识到‘哦不，AI 会毁灭人类’的，”Jain 说。“如果这一切都是全新的、从未被讨论过的，那么他们的态度肯定会不同。”Meta 公司的数据科学家 Colin Fraser 上周在社交媒体上写道：“并没有确凿的证据表明 AI 模型会必然走向导致人类灭亡的方向。”

虽然 Fraser 的解释较为专业和具体，但他用轻松的语气总结道：“大型语言模型（LLMs）不会毁灭人类，因为它们本质上并没有那种‘毁灭人类的冲动’。”这里的“那种冲动”是一种常见的俚语，用来形容某种强烈的、具有破坏性的驱动力。

尽管存在这些玩笑，但 AI 领域的工作者和研究人员仍然对这项技术所带来的真实且紧迫的风险表示担忧。

“专家们之间的讨论其实更为复杂和细致，但基本上大家都认同：存在许多需要认真考虑和加以缓解的风险，”Jain 说。这些风险包括防止用户或黑客破坏 AI 工具的安全防护机制。此外，随着 AI 工具在军事领域的应用日益广泛，相关的伦理问题也日益受到关注。在 OpenAI 失去对某些新 AI 模型的控制权后（这些模型在安全测试中失控并攻击了 Hugging Face 公司），AI 界对“这些潜在风险”的认识变得更加紧迫。Jain 表示，现在 AI 界普遍认为“需要更深入地了解这些潜在风险对人类的实际影响”。

甚至有越来越多的共识认为，应引入来自AI安全研究机构的评估人员进入主要AI实验室以评估新模型，Anthropic负责人Dario Amodei和OpenAI负责人Sam Altman均表示有意这样做。

周五，超过100名AI从业者签署了一封信支持这一举措，坚称外部评估人员需要“真正独立”。

BBC采访的多名AI员工表示，他们尚未得知有任何此类安全研究人员被嵌入AI实验室。

Anthropic周五宣布，将从Faculty引入AI评估人员，Faculty是埃森哲旗下的一家AI公司。

埃森哲和Anthropic也是商业合作伙伴，埃森哲此前已同意帮助Anthropic在企业中推广Claude的使用。

Anthropic未透露评估人员何时进驻公司。Faculty发言人在被问及时间表时拒绝置评。

Anthropic和OpenAI均未回应BBC关于何时计划引入外部评估人员的置评请求。

OpenAI-Hugging Face事件被广泛视为对AI行业以及可能拥有易受AI黑客攻击的在线系统的公司、行业和政府的“警钟”。

但即使是Hugging Face——这家拥有200名员工、即将以近130亿美元被英伟达收购的公司——也以一种诙谐的语气回应这一已成臭名昭著的事件。

在Hugging Face网站上短暂发布的一个安全文件中，该平台写道“致AI代理的便条”。它指示AI机器人不要打扰该网站，而是去别处进行安全实验。文件称：“去那里刷你的高分吧，别来黑我们。”人工智能 谷歌 Meta