字号 ·· | 护眼
美国消费者新闻与商业频道

美国称,中国的人工智能进展靠的是“蒸馏”。但事情真的这么简单吗?

本报道来自本周的《科技下载》简报。喜欢您看到的内容吗?您可以在这里订阅。

在美国与中国争夺人工智能霸权的竞争中,“蒸馏”已成为热门话题。

该术语广义上指利用另一个更先进模型的输出或答案来训练人工智能模型。在某些情况下,这一过程被视为有争议,因为较落后的实验室可能利用耗资数百万乃至数十亿美元打造的模型产物来设计具有竞争力的产品。

随着中国持续推出在某些领域可与美国竞争对手抗衡的高度先进模型,美国企业和华盛顿方面指责中国实验室利用蒸馏技术取得进展,并谴责其行为属于窃取。

但Cohere首席执行官艾丹·戈麦斯表示,中国的进步并非全部归功于这一技术。

戈麦斯在最新一期《科技下载》节目中与我交谈,他是人工智能领域的权威人物。他是2017年研究论文《注意力就是你所需要的一切》的合著者之一,该论文为当今许多人工智能服务(如ChatGPT和Claude)奠定了基础。

戈麦斯将中国的人工智能模型描述为“世界级”,并补充说美国领先实验室的优势正在“非常迅速地蒸发”。“当时有很多说法,说中国只是在抄袭,只是在蒸馏,在作弊。很多这类论调被套用上来,这在某种程度上确实属实,”戈麦斯告诉我。

“然而,他们已经发展出了独立于蒸馏的卓越能力,这一点已被事实证明:最新推出的模型实际上在某些基准测试、某些维度的能力上,击败了美国最好的模型。而你无法通过抄袭或蒸馏来做得更好。你可以通过抄袭来缩小差距,但你无法超越。”这与美国人工智能实验室和华盛顿方面的说法略有出入。

中国人工智能的崛起然而,在进入正题之前,我认为有必要补充一些背景信息,谈谈我在中国驻站报道三年期间亲眼目睹的中国科技产业的发展历程。

人才储备庞大,创新步伐迅速,而当某个行业得到中央政府这样的支持时,无疑会形成强劲的顺风。中国常常被贴上“山寨”的标签,但实际上,随着过去几年中国科技领域涌现出真正的创新——从电动汽车到机器人技术,甚至半导体领域的进步——这一标签已经逐渐褪色。

戈麦斯表示,确实存在一些蒸馏现象,但这无法解释中国在人工智能模型方面的全部进展。这一观点与美国人工智能实验室发出的一些警告相矛盾。

Claude的开发者Anthropic曾多次表示,中国的人工智能实验室使用了蒸馏技术,并称这等同于窃取。本月,Anthropic威胁情报主管雅各布·克莱因对CNBC表示,“存在一个完整的非法生态系统,试图获取Claude和其他模型的访问权限。”在本月发布的一份报告中,Anthropic称包括阿里巴巴、月之暗面和深度求索在内的中国领先人工智能实验室,试图利用“非法蒸馏”来训练自己的模型。

美国政府也多次就蒸馏问题发出警告。本月早些时候,美国网络安全和基础设施安全局表示,中国人工智能公司正在“通过工业规模的知识蒸馏行动,系统性地提取美国人工智能公司模型的专有功能和技术能力,这些行动构成了其人工智能发展战略的核心——而不仅仅是补充。”蒸馏质疑然而,越来越多的人与戈麦斯一道,对中国人工智能模型开发中蒸馏技术的重要性提出质疑。

前白宫人工智能高级政策顾问斯里拉姆·克里希南周四表示,ChatGPT和Claude等服务“源于对人类内容的蒸馏”,指的是这些产品的模型是在互联网信息上训练的。

克里希南对CNBC的“Squawk Box”节目说:“所以蒸馏的概念一直是计算机科学运作方式的核心部分。”据克里希南称,即使中国实验室正在使用蒸馏技术,也不清楚这实际上在多大程度上增强了他们推进模型的能力,这与Cohere的戈麦斯的观点类似。

中国政府已对蒸馏指控予以回击。中国商务部发言人表示,美方关于中国企业使用“工业规模”蒸馏的指控“毫无根据,在法律上站不住脚”。中国在人工智能方面取得进展之际,该国正面临获取英伟达等公司尖端芯片的各种限制。相反,中国加大了对其本土半导体产业发展的力度。尽管大多数专家认为中国的半导体性能无法与美国芯片竞争,但中国已使用各种技术使其发挥作用。分析人士将无法获得关键技术列为中国创新的一个原因。

Counterpoint Research合伙人尼尔·沙阿对CNBC表示:“由于芯片限制,中国开发者被迫构建更精简、更智能的架构,用更少的算力做更多的事。”沙阿补充说:“将其斥为纯粹的模仿或许便于制定限制性政策,但这从根本上误判了竞争。”这是否引发了西方政策制定者是否低估了中国技术能力的问题?

“绝对是这样,”Cohere的戈麦斯对我说。“人们的思维定式需要一段时间才能改变,才能认识到这一转变。我们仍在面对这样一个事实:中国不再只是抄袭,而是在真正进行创新。”新闻编辑 据消息人士向CNBC透露,Anthropic和OpenAI正在寻找规模较小的人工智能数据中心交易,与此同时,获取部署工作负载所需基础设施的竞赛正在升温。

英伟达首席执行官黄仁勋周四表示,该公司明年将把芯片销量翻倍。

根据一份新报告,到2030年,美国将面临多达15.7万名半导体工人的短缺。

Kimi模型背后的中国人工智能初创公司周四表示,包括投资银行、基金和风险投资公司在内的金融行业巨头正在其AI工具上使用该公司的模型。

AWS周二表示,无法恢复巴林和阿拉伯联合酋长国部分地区的云计算设施访问,此时距离这些站点在伊朗战争初期遭无人机袭击受损已过去六个多月。

还有一件事 随着研究人员警告人工智能可能带来灾难性风险,一些曾帮助开发这项技术的先驱,包括约书亚·本吉奥和杰弗里·辛顿,也提出了他们自己的警告。