机器学习研究人员现在有了一个新的且昂贵的选择来进行本地AI计算。

AMD刚刚从其备件库中拼凑出了一款对标DGX Station的产品，配备高达576 GB的HBM3e内存，并将其命名为Threadripper Halo。

该系统在IFA 2026上发布，计划于明年上市，标志着AMD的Instinct加速器首次以工作站形态提供。

但与我们今年早些时候评测的AI Halo类似，Threadripper Halo并没有带来任何我们没见过的东西。

这款液冷系统搭载96核的Threadripper PRO 9995WX，你可能还记得它在2025年首次亮相。

CPU配备最高2 TB的DDR5内存和最高2.6 TB的组合系统内存。

你可能已经猜到，AMD将该产品定位为面向研究人员的本地AI工作站。

据我们了解，该系统最多可配备四块基于PCIe的Instinct GPU——尽管IFA上展示的系统只安装了两块。

MI350P于5月发布，本质上是一块被塞进PCIe形态的MI350X的一半。

每个加速器配备144 GB高速HBM3e，内存带宽达4 TB/s，FP4算力最高4.6 petaFLOPS。但我们要指出，这是在600 W配置下的数据。

在Threadripper Halo中部署时，我们预计AMD将以更保守的450 W配置运行这些显卡。

综合来看，Threadripper Halo承诺提供高达576 GB的HBM3e和16 TB/s的内存带宽，使系统能够完全在GPU内存中运行超过一万亿参数（四比特精度）的模型。

通过将部分模型卸载到系统内存，该系统应该能够运行最大的开放权重模型，如Moonshot.AI的2.8万亿参数Kimi K3。

在你的桌面上运行大型前沿级模型的能力不会便宜，而且可能并非在所有市场都能买到，至少在没有升级电力服务的情况下是这样。

AMD尚未公布定价，但按照配置，我们预计其售价将在10万至15万美元之间。

四路MI350P系统将挑战标准北美电源插座的极限，除非AMD将显卡从600 W降至300 W，或者要求使用20安培电路。这可能解释了为什么AMD在IFA上展示的系统只有两块。

在这个价格和功耗水平下，该系统完全有能力与Nvidia的高端AI工作站DGX Station竞争。

DGX Station于2025年在GTC上发布，配备252 GB B300 GPU和72核Grace CPU，以及496 GB LPDDR5x内存，如果有货的话，零售价约为10万美元。

AMD宣称，该系统提供的总系统内存是DGX Station的3.4倍，内存带宽是其两倍以上，这应该会在LLM推理中带来优势，前提是张量并行操作不会在CPU的PCIe总线上成为瓶颈。

AMD表示，Threadripper Halo将于明年开始供货。®