英伟达销售图形处理器的能力最终受到电网可以提供多少电力的限制。随着折旧周期的不断增长，数据中心需要数年时间才能退役老化的Hopper或Blackwell系统。更多的图形处理器意味着从电网中汲取更多的电力。英伟达无法完全迫使电网运营商更快地增加容量，但它可以让其客户更容易地建造更智能、更高效的比特谷仓。“在数据中心规模和人工智能工厂规模上，我们实际上正在努力思考如何才能提高每千兆瓦的效率，以提高每千兆瓦的性能，”Nvidia高性能和人工智能Hyperscale基础设施解决方案高级总监迪翁·哈里斯（Dion Harris）在最近的一次采访中告诉El Reg。在本周的人工智能Infra峰会上，我们首次了解了Nvidia正在构建的系统，这些系统旨在最大限度地提高计算可用电量，同时最大限度地减少数据中心对本地电网的影响。一般来说，数据中心很少在接近峰值容量的地方运行。一个100兆瓦的数据中心最多可能使用80%的电量来处理关键计算负载。实际比率因位仓库而异，但这为硬件效率低下、转换损失和其他需求激增提供了缓冲。当然，缺点是这留下了20兆瓦左右的未开发容量，数据中心无法使用，公用事业公司也无法回收。每千瓦的滞留电力都是英伟达本可以出售的一个图形处理器，因此英伟达的DS X平台旨在解决这两个问题。最大限度地减少管理费用其中的第一个，Nvidia称之为DS X MaxLP，是旧想法的演变。如果计算和所有物理基础设施（电源柜、电池、冷却剂分配单元（CDU）和冷水机组）能够相互通信，那么运营商就可以实现显着的电力节约。

例如，如果空气处理机有办法知道机架拉动了多少功率，他们就可以根据需求增加和减少，而不是一直处于最大状态。正如您可能预料的那样，挑战是让来自数十个不同供应商的系统使用相同的语言。因此，虽然这个想法在理论上听起来很棒，但让每个人都达成一致说起来容易做起来难。哈里斯解释说，随着人工智能系统的广泛部署，这种情况发生了变化。更高效的比特仓库可以生产更多代币，这转化为更高的收入--只要人们愿意为代币付费。然而，英伟达仍然需要解决通信层的问题，毫无疑问，由于其图形处理器是目前世界上最热门的商品，这一点变得更容易。哈里斯解释说：“DS X Exchange确实是一种I，它允许我们不仅捕获核心系统周围的信息。”“我们可以从提供资产的其他准备好的DS提供商那里获取信息。这就像Vertiv和Schneider Electric以及所有建筑管理系统一样。“在本周的人工智能Infra峰会上，Nvidia和Lambda展示了这座桥梁作为其更广泛的DS X MaxLP产品的一部分，如何用于将更多计算打包到同一个电源包中。在测试中，Lambda能够将19个节点塞进通常由16个节点占用的相同功率预算中，将集群范围的吞吐量提高了24%，并将每瓦性能提高了类似幅度。该公司声称，结果是数据中心不需要在同样程度上过度配置他们的位谷仓，因为他们对整个数据中心拥有更大的可见性和控制权。减轻负担除了帮助客户从他们的小谷仓中获得更多东西外，Nvidia还展示了如何利用其数据中心管理技术来最大限度地减少大型人工智能训练和推理部署对本地电网的影响。

Nvidia与Emerald AI和Silicon Valley Power合作，展示了如何使用其DS X Flex平台在电网需求激增时释放数据中心的电力，而不会中断关键工作负载。但就像Nvidia的DS X MaxLP产品一样，底层技术并不完全是新的。需求响应已经存在多年，允许公用事业公司要求耗电行业在需求高峰期限制能源使用。谷歌和其他公司已经玩弄这项技术一段时间了。您可能还记得去年它宣布将暂停非必要的人工智能工作负载，以避免网格超载。Nvidia的DS X Flex旨在为任何部署其硬件的人提供这种功能。但这项技术可能不是为了防止人工智能造成停电，而是为了让公用事业公司批准额外的容量，但前提是他们可以在接到通知后收回部分容量。“在某些情况下，它允许电网提供商、输电线所有者在分配或过度提供方面不那么保守，因为现在，知道你有能力在一定的窗口内削减，他们不必有那么多的空间，”哈里斯解释道。但他指出，仅仅因为公用事业公司缩减容量并不一定意味着工作负载就会关闭。虽然关键工作负载保持运行，但与英伟达软件栈的深度集成意味着非必要工作负载可以暂停或迁移到容量过剩的邻近数据中心--这个概念有时被描述为追逐太阳。另一个围墙花园正如您可能已经猜到的那样，虽然Nvidia的DS X平台非常适合使用经过验证的硬件构建的人工智能工厂，但随着d-Matrix、SambaNova等第三方加速器的加入，事情变得更加复杂。

对于已经生活在NVLink Fusion生态系统中的d-Matrix等合作伙伴来说，Harris看到了将对DS X的支持扩展到这些平台的前进道路，尽管他指出，需要一定程度的软件集成，并且并非每个芯片都会暴露与其自己的芯片相同水平的粒度控制。当谈到竞争平台时，例如AMD的Instinct图形处理器，位谷仓构建者可能需要寻找替代数据中心管理系统来复制DS的功能。因此，除了充分利用当今有限的电网容量之外，Nvidia的DS X还是另一个围墙花园，确保其客户继续购买其设备。®