返回行业情报

NVIDIA Vera Rubin首秀横扫MLPerf基准

NVIDIA Sweeps MLPerf Training and Endpoints as Vera Rubin Debuts With Leading Performance

NVIDIA Vera Rubin平台在MLPerf Training v6.1全部基准测试中领先,每GPU性能达GB300两倍,并在首次MLPerf Endpoints提交中实现智能体AI每瓦吞吐量超10倍代际提升。DeepSeek-V3基准上从256扩展至1024 GPU保持约97%效率,20家合作伙伴参与提交。

深度解读

英伟达用Vera Rubin在MLPerf Training v6.1和首次MLPerf Endpoints提交中实现全面横扫,真正的信号不是“又赢了”,而是它把竞争维度从“单卡算力”彻底挪到了“每瓦能产出多少智能体工作量”上。

这次发布的时间点是2026年11月16日,Vera Rubin NVL72是首次亮相MLPerf。英伟达官方给出的核心数字有两组:训练侧,Vera Rubin NVL72每GPU性能最高达到高度优化的GB300 NVL72的2倍;智能体推理侧,在Kimi K3这个面向智能体工作流的大开源模型上,Vera Rubin NVL72的每瓦吞吐量超过GB300 NVL72的10倍,且是在相同响应速度下比较。注意“首次提交”和“10倍”同时出现,这意味着英伟达不是在一个成熟平台上挤牙膏,而是在新平台第一版软件栈下就拿到了这个数字,后续还有CUDA栈持续优化的空间。

训练侧:横扫的含义是“唯一全勤”

MLPerf Training v6.1这一轮,英伟达是唯一在所有基准上都有结果的平台,覆盖大语言模型、图像生成、推荐系统和强化学习后训练。这个“唯一全勤”比单项第一更有信息量:它说明英伟达的软件栈对基准覆盖的每一类 workload 都已经完成调优,而不是只押注LLM一条线。对从业者的含义是,如果你在做推荐系统或RL后训练,英伟达平台的“开箱可用性”仍然是对手最难追的部分——不是芯片跑不动,是软件没调到位。

DeepSeek-V3基准上的扩展效率是另一个硬细节:Vera Rubin NVL72从256块GPU扩到1024块,效率约97%,训练时间从16分钟压到约4分钟。四倍GPU换四倍速度,几乎线性。这背后是NVLink scale-up把单系统内GPU连成一体,加上Quantum-X800 InfiniBand和Spectrum-X Ethernet做跨系统scale-out,再叠软件优化。所以呢:大规模训练的经济性问题不在“能不能扩”,而在“扩了之后效率掉多少”,97%这个数字直接决定了万卡集群的账算不算得过来。

本轮最大规模是10240块GPU,英伟达用GB300系统跑出,微软Azure用GB200系统也做到同样规模。这个对照很关键:它证明英伟达的参考架构和云厂商的自建集群能在同一量级上对齐,生态伙伴不是摆设。本轮Training提交有20家组织参与,包括ASUS、Azure、Cisco、CoreWeave、Dell、Google Cloud、HPE、Lambda、Nebius、Oracle、QCT、Supermicro等,这种广度本身就是护城河的一部分——平台可编程、库和框架开源,伙伴才能各自优化。

推理侧:每瓦吞吐才是智能体时代的硬通货

MLPerf Endpoints v1.0是英伟达第一次提交,测的是真实智能体编码和企业工作流,并且要校验智能体是否仍然正确完成任务。这个基准的设计逻辑值得掰开:一个旅行智能体要规划并预订整趟行程,一个IT智能体要在有人报障之前找到并修好问题,这类任务会反复推理、调用工具、检查自己的输出,每一步都产生token。数据中心受功率约束,所以“每秒每瓦能生成多少token”直接等于“能服务多少个智能体”。

Kimi K3的provisional结果里,Vera Rubin NVL72用32个加速器,并发1024查询,系统TPS 41414.2 tokens/秒,每用户端到端平均交互性50.4 tokens/秒,运行功率100.89 kW;GB300 NVL72用48个加速器,并发48查询,系统TPS 2210.4 tokens/秒,每用户交互性56.2 tokens/秒,功率60 kW。比较口径是“在每用户至少50 tokens/秒的共享最低交互性下看每千瓦吞吐”。这个口径很讲究:它不是比峰值,而是比在“用户可接受的响应速度”这条线之上,谁每瓦能塞进更多工作量。结论是10倍以上。

智能体推理的竞争单位已经从“每GPU每秒多少token”变成“每千瓦每秒多少token,且响应速度不能掉”。

这对行业意味着什么:如果每瓦吞吐差10倍,同样功率预算下能服务的智能体数量就差一个数量级,直接改写数据中心的单位经济模型。对云厂商和自建集群的采购逻辑,功率配额会变成比GPU数量更硬的约束条件。

所以呢:护城河从芯片挪到了“芯片+网络+软件”的复合体

把两组结果放在一起看,英伟达这次真正展示的是系统级协同:训练侧的97%扩展效率靠NVLink加InfiniBand/Spectrum-X,推理侧的每瓦吞吐靠整机功率效率加软件栈。单看任何一颗芯片都解释不了这两个数字。Vera Rubin首秀就拿到每GPU 2倍于GB300的训练性能和10倍于GB300的推理每瓦吞吐,说明代际创新的节奏没有放缓,而且新平台的第一版结果只是起点,官方明确说会通过CUDA软件栈持续优化继续爬升。

对从业者的实际含义有三条。第一,选型时“每瓦智能体吞吐”应该进入TCO模型的核心,而不是附录。第二,MLPerf Endpoints这类带正确性校验的智能体基准会逐渐取代纯吞吐基准成为采购参考,因为它更接近真实负载。第三,英伟达在MLPerf之外还引用了SemiAnalysis AgentX和Artificial Analysis AgentPerf的领先结果,并强调同一套基础设施能跑预训练、后训练、智能体推理以及SC26上展示的HPC负载——这是在说“通用性”本身也是卖点,专用芯片在单一 workload 上的窗口正在被压缩。

最后值得盯的是那个provisional标签:Vera Rubin的Endpoints结果尚待MLCommons验证和同行评审,数字可能变动。但即便打折,10倍量级的每瓦吞吐差距也不是评审能抹平的。真正的问题变成了:当训练扩展效率接近线性、推理每瓦吞吐代际跳一个数量级,竞争对手要追的已经不是一颗芯片,而是一整套被CUDA锁定的系统栈。

其
行业动态NVIDIAMLPerfAI训练智能体推理硬件基准