根据Anthropic的一份新威胁报告，美国以外的研究人员使用前沿AI模型规划涉及高致病性禽流感、基孔肯雅热及其他具有潜在武器应用价值的生物制剂的实验。

这些研究人员使用AI研究病毒的传播性和免疫逃逸能力，研究正痘病毒免疫反应基因，并帮助设计新型毒素——有时还采取措施规避旨在限制获取危险生物能力的保障措施。

Anthropic在周四发布的报告中详细描述了五个案例，但未透露涉及的国家、机构和具体生物制剂。该公司强调，它并未声称这些研究人员有意开发生物武器。

AI“关闭开关”法案可能关闭失控模型。这些发现提供了一个具体视角，让我们看到一种此前大多在假设中讨论的威胁。已经拥有生物学专业知识、材料和实验室准入的科学家，正在使用日益强大的AI系统加速敏感的“双重用途”研究。

这些发现也正值关于灾难性AI风险的辩论重新燃起之际。前Anthropic和OpenAI研究员Jacob Coxon最近辞职，同时指责这些公司“正竞相冲向自我改进的超级智能，并用我们的生命赌博”。他的警告在社交媒体上获得了超过1亿次浏览。参议员伯尼·桑德斯表示：“是的，我们必须按下AI的暂停键，否则就太迟了。”Anthropic的对齐科学负责人Evan Hubinger也单独表示，他个人认为AI在未来十年内杀死所有人类的可能性超过10%。

但Anthropic的报告指出了一种已经存在的威胁：研究人员将前沿AI用于潜在危险的生物工作，规避地理限制，并在模型的安全保障阻碍他们时进行调整。

在一个案例中，Anthropic阻止了一个军事研究所的基孔肯雅热“功能获得”研究拨款申请。该拟议工作侧重于识别可能增加病毒传播性和免疫逃逸能力的突变。

研究人员计划将这些突变工程化到感染性克隆中，并让病毒在活体动物中反复传代，选择导致最严重疾病的变体。

Anthropic表示，这项工作可能帮助科学家开发更好的基孔肯雅热疫苗和治疗方法，但也可能产生一种更危险的病原体，且难以与自然爆发的疫情区分。

这些研究人员通过一个生命科学平台访问Claude，该平台将流量通过美国基础设施进行隧道传输，以规避Anthropic的区域限制。当Claude拒绝回答敏感提示时，该平台将这些请求路由到另一个保障措施更宽松的模型。

Anthropic表示，在公司封禁与该活动相关的账户后，研究仍在继续。平台运营商在几天内使用新身份重新建立了访问权限，而Claude继续为研究材料提供编辑协助。

在另一个案例中，一名研究人员花了数周时间使用Claude规划涉及高致病性禽流感病毒哺乳动物适应和空气传播的实验。

美国食品药品监督管理局首次为数百万美国老年人批准mRNA流感疫苗。该研究人员正在研究可能使禽流感在哺乳动物中更有效传播并在呼吸系统外引起严重疾病的病毒特征。报告称，一种能够高效人传人的版本将构成重大大流行威胁。

Anthropic表示，该研究人员似乎能够接触病毒分离株和动物模型设施。该公司将工作限制在较弱的模型上，主要提供研究设计、数据分析和编辑支持方面的帮助。

该公司表示，该案例证明了一个活跃的研究项目正在开发制造具有增强大流行潜力的病原体所需的知识和生物材料。该研究人员还采取措施在从不支持的地区访问模型时隐藏身份。

另一名与国家级传染病实验室相关的用户使用Claude在大约一小时内从头到尾起草了一份正痘病毒研究拨款申请。

正痘病毒包括天花病毒（导致天花的病毒）以及猴痘病毒。该拨款申请提议研究使人类免疫反应失活的病毒基因，并包括中心假设、实验设计、剂量、统计计划和应急策略。

由于工作围绕削弱病毒展开，Claude的保障措施并未阻止这一协助。但Anthropic表示，同样的知识也可能帮助研究人员保留或增强病毒的免疫逃逸能力。最后两个案例涉及毒液肽和毒素。

一名研究人员使用Claude构建了来自多个毒液动物谱系的毒素肽图谱，然后创建了一个生成式流水线来优化其特性。

其既定目标是开发新的止痛药、抗抑郁药和其他治疗方法。但该图谱还包括与麻痹性毒素相关的结构，这些毒素可能被用作失能剂。Anthropic表示，这项工作是一个国家支持的研究项目的一部分。

在另一个案例中，一名研究人员使用Claude对几种毒素进行计算重新设计，包括一种细菌毒素和一种来自出血热病毒的蛋白质，该病毒被世界卫生组织列为优先疾病威胁。

该研究人员使用Claude帮助准备进度报告，但指示模型故意模糊毒素的身份。

这些案例说明了为什么仅通过自动过滤器难以防止生物误用。Anthropic的保障措施阻止了涉及增强型大流行病原体的最明显尝试，但当用户将工作描述为医学、防御性或治疗性研究时，这些措施的效果较差。

“生物能力具有双重用途，”Anthropic在报告中表示。“用于开发生物武器的信息也可以用于开发疫苗或治愈疾病。”

该公司表示，它最近审查了与敌对国家级机构相关的30天活动，发现了大约35项不同的生物研究工作。大多数涉及普通民用科学，但有些具有“显著的双重用途潜力”。Anthropic表示，这些发现并未表明Claude已经促成了迫在眉睫的生物攻击。

该公司表示，这些发现确实表明，与国家级项目相关的研究人员正试图规避访问控制，并在可能具有武器应用的生物研究中使用前沿AI模型。

该公司表示，未来的保障措施可能不仅需要内容过滤器，还需要身份验证、机构审查以及对寻求访问高级生物能力的用户进行更密切的监控。