字号 ·· | 护眼
theregister

VMware使用英伟达青睐的“AI工厂”品牌与竞争对手AMD合作

英伟达多年来一直推动“AI工厂”的概念,如今其合作伙伴VMware推出了一款同名产品,功能大致相同,但有一个极其重要的区别——它使用的是AMD硬件。

VMware是英伟达在企业领域的早期支持者,并早已创建了虚拟化GPU的工具。

英伟达需要这种帮助,因为即使在生成式AI热潮之前,其硬件也非常昂贵,因此通过虚拟化提高利用率是合理的。

两家公司保持紧密合作,并于2023年联合宣布了“VMware Private AI Foundation with Nvidia”,该捆绑包包含运行推理工作负载所需的众多工具,以及帮助AI部门自动化和管理的工具。

VMware当时表示:“它通过提供直观的自动化工具、深度学习虚拟机镜像、向量数据库和GPU监控功能,简化了企业的Gen AI部署。”

联合公告几周后,英伟达开始谈论“AI工厂”——本质上是一种参考架构,描述了运行推理工作负载所需的所有硬件和软件。

英伟达的AI工厂以自身硬件和软件为核心,并采用戴尔、联想和HPE等公司的服务器。这些硬件巨头将其实现称为“AI工厂”。

随着英伟达开始推广AI工厂,VMware不断增强其Private AI工具,使其旗舰产品Cloud Foundation(VCF)私有云捆绑包成为AI工作负载的良好宿主。

周一,在VMware Explore大会上,博通虚拟化部门宣布了自己的AI工厂版本,并表示它“通过完全自动化硬件配置、软件栈启用和端到端生命周期管理,简化了AI基础设施管理。”

如果这听起来很像Private AI Foundation的宣传,那并非巧合,因为新产品是重新命名的后续版本,增加了一些有用的技术,例如一次部署模型,并在租户或业务部门等用户之间安全共享。

鉴于对AI的兴趣高涨,这应该会受到欢迎,因为这意味着组织无需为每个团队的AI需求配备独立硬件——可能节省资金,并让IT团队控制中央AI基础设施池,而不是试图识别和遏制影子AI实施。

VMware还捆绑了工具,允许组织在本地和云中使用AI基础设施,并能确定在哪里运行作业以及使用哪个模型以降低成本。

同样,这将受到欢迎,因为云AI可能迅速产生巨额账单,而使用LLM时,如果更小、更具体且更便宜的模型能胜任,也会产生高成本。

博通业务部门还提供安全的AI沙箱和治理工具,据称可确保代理不会超出其权限,或访问您不希望它们接触的资源。

AI工厂需要VCF,并运行在思科、戴尔科技、联想和超微的服务器上。

博通还与AMD合作,推出了适用于AMD Instinct GPU和开放AMD ROCm软件生态系统的VMware AI工厂版本。

目前,VMware的AI工厂不适用于英伟达的AI工厂,尽管两者共享一些组件和意图。

博通VCF部门产品营销副总裁Prashanth Shenoy告诉The Register,VMware AI工厂是VMware Private AI Foundation with Nvidia的“演进”。

“VMware AI工厂代表了一个全栈、自动化的运营系统,旨在将AI令牌生成视为连续的生产管道,”他说,并指出它支持“多种加速器架构和AI工具链”,而英伟达是“我们最长期的GPU供应商合作伙伴”。

VMware并未排除为英伟达及其AI工厂构建AI工厂的可能性。

但就目前而言,这家虚拟化巨头借用了其长期合作伙伴的产品名称,用于推广英伟达最强竞争对手的竞争性产品——而且这一切都是为了降低您的AI账单。这并不是VMware展会上唯一出现的奇怪交织的竞合例子。

在会议第一天,The Register已经与红帽的代表进行了交谈——红帽通过其OpenShift Virtualization与VMware竞争,但也与VMware合作,因为有些人在VMware内部运行OpenShift——以及微软,微软提供云VMware服务,同时还有多个直接与Virtzilla竞争的产品。®