字号 ·· | 护眼
彭博社

Anthropic称Moonshot秘密将用户请求路由至Claude

Anthropic PBC指控中国人工智能领军企业Moonshot AI秘密将数千条用户请求路由至该美国公司的Claude模型,并将回复冒充为自己的成果,以在AI竞赛中获取优势。

根据Anthropic周四发布的报告,Moonshot将用户对聊天机器人的查询转移至Anthropic,而未告知用户,也未通过其Kimi模型处理。Anthropic表示,在其中一例中,发现Moonshot向Anthropic的Opus AI模型发送了近30万条客户请求。由于Anthropic不允许从中国境内访问其技术,Moonshot使用了5,380个欺诈账户,其中大多数似乎位于新加坡和日本。Anthropic认定Moonshot的活动是所谓“蒸馏”过程的一部分,即开发者利用更强大AI模型的数据来改进较弱的系统。Anthropic称,在此案例中,Moonshot从Anthropic系统获得的回复随后被用于训练Moonshot自己的软件。Anthropic表示,DeepSeek和小米公司也采取了类似做法。

该报告发布前不久,美国安全机构指控包括DeepSeek和Moonshot在内的中国顶级AI公司通过蒸馏做法系统性地从美国公司提取专有知识。政府警告硅谷开发者保护自己的成果。包括Anthropic在内的美国科技公司此前也曾指控包括Moonshot在内的中国公司进行蒸馏。凭借其Kimi K3模型在今年夏天的突破性成功,Moonshot已成为中国最引人注目的AI挑战者之一。Moonshot拒绝置评。DeepSeek和小米的代表在正常工作时间外未回应置评请求。中国商务部最近表示,对中国AI公司大规模蒸馏美国模型的指控“没有事实或法律依据”。它还威胁称,如果美国“采取措施遏制和打压”中国AI公司,将采取反制措施。蒸馏是增强AI模型的常见技术。Anthropic威胁研究主管Jacob Klein表示,Anthropic在蒸馏自己的模型时也看到了改进。但未经授权的蒸馏可能让其他开发者走捷径,构建更好的模型并以更低价格提供,从而可能在Anthropic准备上市之际削弱其竞争力。该技术以及所谓的提示转移策略,也可能引发对中国AI实验室数据隐私实践的新质疑。“如果我们那样做,或者我们的竞争对手那样做,那将是一大隐私丑闻,”Klein在接受采访时说。

Anthropic这份145页的报告概述了一系列涉及其软件的威胁,公司称从去年12月到今年8月发现并阻止了这些威胁。其中包括疑似国家支持的和出于经济动机的网络攻击、监视行动和虚假信息宣传。

报告发现,一名Kimi用户将中国监控数据上传到模型中,以寻求分析某人是否行为异常。尽管该用户可能认为这一请求会由Moonshot处理,但最终却被提交给了Anthropic的模型,从而让这家美国公司看到。Anthropic在报告中称,该请求包含来自数百个摄像头的视频监控,其中包括中国人民解放军设施外的摄像头。报告中的例子展示了AI如何加速恶意软件的制造、社交媒体监控和政治宣传的传播。Anthropic表示,在每起案例中,它都封禁了违规账户并制定了防范类似行为的保障措施。

Anthropic和更广泛的AI行业正因今年夏天披露的一系列涉及AI模型和网络安全测试出错的违规事件而受到审查,这引发了人们对这些公司保护其最先进软件能力的担忧。周三,Anthropic披露,在安全测试期间发现其一个模型进行了另一次黑客攻击。公司称,该事件涉及Claude Opus 4.6的早期版本。