Salesforce联手Nvidia推出Koa推理模型，挑战前沿AI实验室

Salesforce本周在其年度Dreamforce大会上发布了新AI模型Koa，这是公司首个推理模型，基于Nvidia的开源权重Nemotron模型构建。两家公司合作对Koa进行了后训练，使其在销售、营销和客户支持相关任务中表现优异。

Koa展示了企业界对AI的需求与前沿实验室提供的产品之间的差异。专有AI实验室更希望企业将文件、代码、提示和反馈直接上传到他们的模型和代理中，并为此花费数百万美元。而Salesforce通过Koa为企业客户提供开源权重替代方案，该模型经过训练可完成特定工作任务，且未摄入任何实际客户数据，因此不会泄露客户信息。此外，Koa使用更少的token完成相同工作，有助于降低AI支出，并可通过AI“网关”根据需求自动路由。

Salesforce AI执行副总裁Jayesh Govindarajan表示，公司此前一直依赖前沿模型提供商的推理能力。此前，如果代理需要推理长期或多步骤任务，这些提示会通过Agentforce的AI网关路由到Claude或ChatGPT等前沿模型。Govindarajan解释说，之所以之前没有训练自己的企业级前沿模型，是因为缺乏预训练基础模型，而Nemotron是首个可用、最先进且数据来源清晰的美国预训练模型。

Salesforce和Nvidia在训练Koa时未使用Salesforce客户的任何实际数据，而是制作了模拟客户模式的合成数据。Govindarajan描述，他们模拟了客户服务环境，包括打电话到客服中心的愤怒客户，以及试图完成交易的销售专业人员。Koa旨在比将相同任务发送给Claude或ChatGPT更好、更便宜。Nvidia企业生成式AI软件副总裁Kari Ann Briski表示，Nemotron具有独特的推理架构，可实现token高效。不过，Salesforce并未完全放弃Anthropic或OpenAI，同时宣布与Anthropic合作推出ClaudeForce，允许公司使用Claude作为AI界面，而数据保留在Salesforce系统中。