NVIDIA发布Nemotron 3.5系列开放模型
Open From Data Center to Desktop: NVIDIA Expands Nemotron Family With Highest Efficiency Super VL and Bolt Models
NVIDIA推出Nemotron 3.5 Super VL和Bolt系列开放模型,覆盖从数据中心到桌面的智能体部署。Super VL以1200亿参数实现前沿级多模态智能体能力,速度提升5倍;Bolt 74B-A9B和E4B分别针对本地边缘设备优化,支持RTX/DGX Spark等硬件。模型提供开放权重和数据集,支持企业定制化后训练,已在金融、安全、医疗等领域落地应用。
深度解读
NVIDIA于2026年10月15日发布Nemotron 3.5 Super VL与Bolt系列模型,标志着其开放模型战略从数据中心正式延伸至桌面端,以1200亿参数的Super VL在同类中实现5倍于竞品的吞吐速度,同时以Bolt 74B-A9B和Bolt E4B两款边缘模型覆盖从企业服务器到GeForce RTX、Jetson乃至DGX Spark的全硬件层级,核心判断是:NVIDIA正在用“开放权重+全栈优化”的组合拳,把智能体部署从云端垄断拉向本地化、可定制的分布式格局。
Super VL:用五分之一参数打平最大推理模型
Nemotron 3.5 Super VL是一个1200亿参数的开放模型,由Nemotron Coalition协作构建,在多模态智能体任务上——包括指令遵循、工具调用、多步业务工作流和视觉理解——达到了与NVIDIA最大推理模型相当的准确率,而参数量仅为其约五分之一。这意味着企业不再需要在“能力”和“可部署性”之间做取舍。
更关键的是速度。在Artificial Analysis Intelligence Index排行榜上,Super VL的吞吐量达到同类模型的5倍。对于跨越数天甚至数周的智能体工作流而言,这种速度优势直接转化为任务完成效率。原文明确将其定位为“同类中最快的开放智能体模型”,这一定位直指那些需要高并发、持续运行的always-on agents场景。
5x faster, accurate and customizable Nemotron 3.5 Super VL expands NVIDIA’s open models for always-on agents.
与闭源前沿模型不同,Super VL允许组织在自有数据上进行后训练,在自有基础设施上部署,并全程掌控构建过程。这不仅是技术选择,更是数据主权和合规策略的体现。
Bolt系列:把智能体智能塞进24GB和4GB
Bolt 74B-A9B 24GB是专为在NVIDIA RTX/DGX Spark上本地运行日常智能体任务而设计的边缘模型。它采用原生2-bit量化技术,将模型压缩至24GB内存以内,同时能与其他应用并行运行。相对于同等内存占用的其他模型,它在智能与速度之间取得了平衡——足够聪明完成大多数任务,又比最聪明的模型快得多。
用户可以将项目委托给流行的本地智能体框架,从网页研究到写作再到代码调试,全程无需将工作负载发送到云端。该模型在PinchBench上位列同类开放模型第一,在BrowseComp上位列第二。
Bolt E4B 4GB则面向GeForce RTX、Jetson和RTX/DGX Spark上的物理和对话智能体,结合自然对话与多轮智能体能力,驱动快速本地语音助手、交互角色和嵌入式界面。Super VL和Bolt 74B-A9B现已可用,Bolt E4B将于10月23日发布。
后训练生态:从金融到医疗到网络安全的定制化落地
Super VL的采用范围横跨数十个行业组织,它们正在用自己的数据、工具、策略和工作流对模型进行后训练,以提升特定任务的准确率。这一生态的广度值得逐一拆解:
Scale AI为Skydance的供应商信用金融智能体和EY的并购尽职调查智能体后训练了该模型。AfterQuery为Hebbia定制了信用协议分析模型。AI21和Alice针对网络安全攻击韧性进行了后训练。Mercor在APEX-SWE编码基准上后训练,用于规划、编写和调试代码的编码智能体。ModelScope通过其ms-swift框架支持开发者微调该模型用于专业多模态应用。
其他定制组织包括:Ramp用于金融文档智能;Dream用于主权AI驱动的网络安全研究和漏洞分析;Lila Sciences用于科学发现和搜索;R1用于医疗索赔分析和收入周期管理。TrainLoop用Nolla的皮肤病学数据后训练了该模型,而Nolla刚刚成为首家获批AI撰写初始患者处方的公司。
软件平台集成方面:Atlassian用于Jira和Confluence等应用的智能体搜索;CrowdStrike定制用于企业安全中的智能体蓝队操作;Dassault Systèmes驱动工程设计与仿真;Perplexity用于Perplexity Search和Computer中的搜索与智能体任务;Salesforce通过Missionforce Operations定制Nemotron以驱动在安全客户环境中数字化和自动化复杂政府工作流的AI智能体;Synopsys的半导体设计验证软件与该模型互操作。
视觉语言能力:瞄准智能体实际遇到的文档场景
Super VL的视觉语言能力直接针对智能体在实践中遇到的内容:光学字符识别、表格、图表和视觉文档中的结构化信息。它能处理网页、提取文本、读取图表并返回洞察,同样适用于PDF和其他智能体常处理的文档。
将文本和视觉理解合并在一个模型中,意味着智能体不需要在独立系统之间路由任务——当工作从文档流向数据再流向决策时,上下文得以贯穿。这消除了多系统拼接带来的信息损耗和延迟。
开放权重与全栈优化:控制权在两个方向上运行
模型以开放权重、开放数据集和训练配方的形式发布。控制权在两个方向上运行:组织可以根据安全和数据驻留要求决定在哪里运行模型,同时选择采用一个可以适配的模型,而非受制于提供商限制的模型。
在保险场景中,定制智能体可以反复扫描索赔中的欺诈标记。在金融服务中,智能体可以审查信用评分并根据组织自身的贷款标准标记活动。模型留在本地,数据保持私密。定制通过NVIDIA NeMo、基于Python的管道和开放数据集支持。
Super VL在预训练和持续预训练中使用了约26万亿token,随后用约380万样本和跨数十个环境的强化学习进行了后训练。NVIDIA还在Hugging Face上发布开放数据集,涵盖智能体工具使用、金融、指令遵循、长上下文、公平性和视觉语言理解,以及NeMo Gym中的强化学习环境。
NVIDIA NIM将模型打包为生产就绪的微服务,提供性能优化、经验证的配置和企业级支持,每两周刷新安全补丁和性能改进。配合NVIDIA Dynamo,组织可以服务多达8倍的用户,延迟降低85%。Super VL现已在Hugging Face、Open Router、ModelScope社区和NVIDIA NIM上可用,运行于DGX Spark、DGX Station和RTX。
所以呢:开放模型正在吃掉智能体部署的中间层
NVIDIA此举的深层逻辑在于:当闭源前沿模型的API调用成本、数据合规风险和定制化限制成为企业智能体规模化的瓶颈时,一个开放权重、可后训练、全硬件层级覆盖的模型家族就构成了替代方案。Super VL用五分之一参数打平最大推理模型,Bolt用2-bit量化把智能体塞进24GB内存,这不仅是技术指标的突破,更是部署经济学的重构。
对从业者而言,这意味着智能体开发的技术选型正在从“调用哪个API”转向“在哪个层级部署哪个开放模型”。对行业趋势而言,NVIDIA通过Nemotron家族——Lightning处理高吞吐、Ultra处理最难推理、Super VL处理多模态智能体、Bolt处理边缘——构建了一个完整的开放模型矩阵,其战略意图是让任何想在NVIDIA基础设施上运行智能体的组织,都能找到无需在能力和可部署性之间妥协的开放优化模型。当后训练生态从Scale AI、EY、CrowdStrike延伸到Nolla这样的医疗AI初创公司时,开放模型的网络效应已经开始自我强化。
