字号 ·· | 护眼
罗塞塔简报

中国电信发布基于华为升腾NPU训练的Xing4.0-29B-A4B MoE模型

中国电信发布了Xing4.0-29B-A4B MoE模型,该模型采用华为Ascend NPUs进行训练。

这款开放权重混合专家语言模型专为工具调用、编码和多步骤规划等任务设计,拥有290亿个总参数,每个令牌有40亿个活跃参数,并支持256K的上下文窗口。

值得注意的是,这是首个完全在华为Ascend 910C NPUs上使用MindSpore/MindFormers框架训练的此类规模模型,通过定制优化实现了96%的训练吞吐量提升。

在Terminal-Bench 2.1和Claw-Eval基准测试中,该模型超越了Gemma4-26B-A4B和Qwen3.6-35B-A3B,但在某些编码测试中略逊于Qwen3.6。该模型采用Apache 2.0许可证发布。