这是Salesforce本周在其盛大的Dreamforce科技大会上发布的最重大消息之一。Koa是该公司首个推理模型,基于英伟达的开放权重Nemotron模型构建。两家公司合作对Koa进行后训练,使其擅长销售、营销和客户支持相关任务。
Koa是一个鲜明例证,说明企业对AI的需求正与前沿实验室提供的产品渐行渐远。专有AI实验室更希望企业将文件、代码、提示和反馈直接上传到它们的模型和智能体中,并为此花费数百万美元。
但借助该模型,Salesforce 正在为其企业客户提供一种开放权重的替代方案,以取代封闭的前沿模型:一个经过训练以执行特定工作任务的模型(而不是解决不可能的数学问题);一个未摄入任何实际客户数据、因而无法将数据泄露给其他方的模型;一个有助于减少 AI 支出的模型,因为完成同样的工作只需使用更少 token;一个可根据需要自动通过 AI“网关”路由的模型;以及一个遵循客户所有数据要求并内置 Salesforce 安全机制的模型。
Koa 将作为 Salesforce 在其 Agentforce 平台中提供的其他模型的替代方案,该平台让客户构建代理来处理“我们构建了许多小型、面向特定任务的语言模型,它们是 Agentforce 产品组合的一部分,”Salesforce AI 执行副总裁 Jayesh Govindarajan 对 TechCrunch 表示。“但推理一直是我们依赖前沿模型提供商的事情。直到现在。”在 Koa 之前,如果某个智能体需要推理一个长时间运行或多步骤的任务,那些提示会通过 Agentforce 的 AI 网关(决定由哪个模型处理哪个请求的系统)路由到 Claude 或 ChatGPT 等前沿模型。
“我们此前一直没有做这件事——训练自己的企业级前沿模型——的原因之一,就是我们一直都想做,但挑战始终在于缺少一个可供起步的预训练基础模型。在Nemotron出现之前,还没有一个美国自主的预训练模型能够同时做到:第一,可用;第二,处于最先进水平;第三,具有清晰的数据来源。我们根本不知道Qwen是用什么训练的。”Govindarajan说道,他指的是阿里巴巴推出的那款广受欢迎“我们实际上模拟了一个客户服务环境,其中有一位拟人化的客户服务专业人员,包括打进客服中心的愤怒客户,一直到试图达成交易的销售专业人员,”戈文达拉詹描述道。
Koa 旨在在 Salesforce 客户希望智能体完成的工作任务上,比把同样的任务交给 Claude 或 ChatGPT 做得更好——并且从消耗的 token 来看也更便宜。
Kari Ann Briski,Nvidia企业生成式AI软件副总裁,向TechCrunch表示:“借助Nemotron,我们拥有了一种独特的推理架构,旨在实现令牌高效。”“这可以说是主权AI、首次令牌时间、高效推理以及整体令牌经济性所需的三位一体。”然而,Salesforce并未完全放弃Anthropic或OpenAI。它刚刚宣布与Anthropic建立名为ClaudeForce的合作伙伴关系,允许企业使用Claude作为其AI界面,同时其数据仍保留在Salesforce的记录系统中,由其基础设施提供安全保障。