字号 ·· | 护眼
罗塞塔简报

通用机器人端侧与数据中心推理分析

SemiAnalysis 探讨了通用机器人在端侧推理与数据中心推理之间的权衡。

端侧计算(如 NVIDIA Jetson Thor)可确保实时控制环路的低延迟与安全性,但由于单位成本高、芯片/内存效率有限,面临扩展性约束。

相反,数据中心卸载(如 B300 GPU)具有更优的 TCO,并能运行更大、能力更强的“System 2”推理模型,但受制于“网络墙”——延迟、抖动和上行瓶颈。

报告强调了不同做法:Boston Dynamics 采用拆分架构进行高层推理,而 Agility Robotics 和 Sunday Robotics 则优先采用端侧推理,以确保在不稳定网络环境中的可靠性与安全性。