Nvidia发布全新开源模型,瞄准企业及PC端AI代理市场
速览
Nvidia 推出全新开源权重模型,专注于企业级常驻 AI 代理和边缘计算场景。其中最大模型 Nemotron 3.5 Super VL 拥有 1200 亿参数,在指令遵循和工具使用任务上接近旗舰型号水平。这意味着企业可以在自有数据中心或本地 PC 上部署私人 AI 代理,减少对云端的依赖。
Nvidia 于周四发布了新的开源权重模型,旨在支持常驻型 AI 代理和边缘计算。这些模型覆盖了从大型企业级应用到轻量级 PC 端应用的完整梯度,反映出公司对「企业自建 AI 基础设施」和「端侧私人 AI」两大趋势的积极跟进。
新发布的模型分为两个层级:
- Nemotron 3.5 Super VL:一个拥有 1200 亿参数的大型模型,针对企业代理场景优化。Nvidia 称其在指令遵循和工具使用任务上,能以更少的参数达到与旗舰型号 Nemotron 3 Ultra 相似的准确度。
- Nemotron 3.5 Bolt 74B-A9B 24GB:一个 740 亿参数的紧凑模型,专为本地代理任务设计,兼顾速度与推理能力,支持多步推理、工具调用和网页浏览。
- Bolt E4B:最小的模型,旨在驱动对话式代理,预计本月晚些时候推出。
Nvidia 声称,当针对特定代理任务(如文档智能、财务核算、科学实验、医疗保险理赔和安全攻击韧性)进行后训练时,Super VL 的完成任务速度优于 Anthropic 和 OpenAI 的竞品模型。为佐证这一说法,Nvidia 列出了 Skydance、EY、Ramp、Crowdstrike、Perplexity 和 Salesforce 等使用 Super VL 的公司。
值得注意的是,这些轻量级 Bolt 模型专门设计用于在配备 Nvidia RTX Spark 芯片的新型 AI PC 以及 DGX Spark 工作站上本地运行。这类 PC 面向消费者、程序员和企业知识工作者,目前正通过微软和戴尔等合作伙伴进入市场。Nvidia 开放模型与软件部门副总裁 Kari Briski 在博客中强调,与封闭前沿模型不同,组织可以对 Super VL 进行后训练,部署在自有基础设施上,并拥有其构建的成果。
这一产品组合的发布,正值 Nvidia 面临来自 AWS Trainium、Cerebras 等芯片厂商,以及那些自研芯片的 AI 实验室的竞争。通过同时覆盖数据中心和 PC 端,Nvidia 正试图在响应企业私有化部署需求的同时,为消费者对隐私敏感的 AI 助手需求开辟新市场,让用户在本地运行代理而不必将数据发送至云端。
原文Nvidia launches new open models to run agents in the enterprise and on PCstechcrunch.com
#Nvidia#开源模型#企业AI#端侧AI
本文由程序自动抓取公开报道,经 AI 筛选与改写生成,未经人工逐条核实,事实以原文为准。