返回行业情报

Lambda采用NVIDIA光子学提升AI工厂效率

Lambda Boosts AI Factory Resiliency and Efficiency With NVIDIA Photonics

Lambda使用NVIDIA光子学共封装光学交换机连接超1万GPU的GB300 NVL72机架,网络延迟降低4%-10%,能效提升5倍、可靠性提升15倍,激光器用量减少4倍,光模块温度从51°C降至36°C,光源模块可现场更换,提升大规模AI集群的韧性与效率。

深度解读

Lambda 用 NVIDIA Photonics 的共封装光学(CPO)交换机,把超过 10000 块 GPU 的 GB300 NVL72 机架连成一张网,在万卡级 AI 工厂里实现了更低功耗、更高可靠性和更长的平均无中断时间(MTBI)——这是 CPO 从实验室指标走向大规模生产部署的一个标志性节点,意味着 AI 集群的瓶颈正从算力芯片本身,转向连接芯片的那根“线”。

先看清这笔交易的实际分量

Lambda 不是一家小客户。它是专门做 GPU 云服务的厂商,客户群体是训练大模型的公司,其集群规模直接决定了它能不能接到下一代模型的订单。这次部署的关键数字是“超过 10000 块 GPU”和“GB300 NVL72 机架”——GB300 是 NVIDIA 当前一代 Blackwell 架构的旗舰产品,NVL72 意味着每个机架内部通过铜缆互联 72 块 GPU,而机架与机架之间、pod 与 pod 之间的连接,正是这次交给 CPO 交换机的部分。

换句话说,Lambda 没有在机架内冒险,而是在机架间这个“必须用光”的层级上,第一个吃螃蟹。这个选择很聪明:机架内铜缆互联是 NVIDIA 自己的成熟方案,机架间光互联才是传统可插拔光模块问题最集中的地方。

4% 和 10% 这两个数字,比听起来更重要

NVIDIA 给出的测试数据是:机架规模下网络时延降低约 4%,pod 规模下降低最多约 10%,同时在机架、可扩展单元(scalable unit)和 pod 三种配置下吞吐量与传统的可插拔光学方案持平。

时延降低 4% 听起来不起眼,但要看它作用在什么场景。在万卡训练任务里,集合通信(all-reduce、all-gather 这类操作)是同步进行的,网络时延直接叠加进每一步训练的等待时间。一个千步、万步的训练任务,每一步省下的微秒级时延会被乘上万次。更关键的是 pod 规模下 10% 的降幅——pod 是跨机架的大单元,链路更长、跳数更多,恰恰是传统光模块信号劣化最严重的地方,CPO 在这里的收益最大,逻辑是自洽的。

吞吐量持平这一点同样关键:CPO 不是用性能换功耗,而是在不牺牲带宽的前提下换来了能效和可靠性。

5 倍能效、15 倍可靠性、4 倍更少激光器:拆开看

NVIDIA 宣称 CPO 相比传统可插拔光学,能效提升最多 5 倍、可靠性提升最多 15 倍、激光器数量减少 4 倍。这三个数字要分开理解。

能效提升来自两处:一是电光转换从交换机面板挪到了芯片封装旁边,电信号走的路从英寸级缩短到毫米级,信号损耗大幅下降;二是省掉了重定时器(retimer)芯片——传统长距离电信号需要 retimer 来整形,CPO 把光引擎贴近交换芯片后,这段电链路短到不需要 retimer,既省电又少了信号路径上的器件。

可靠性提升的核心逻辑是“器件越少,故障点越少”。激光器是光模块里最脆弱的部件,数量减少 4 倍,直接意味着故障概率的数量级下降。而 15 倍这个数字,大概率是把激光器数量、工作温度、信号完整性三方面收益叠加后的综合结果,NVIDIA 没有给出拆解公式,这个数字应当审慎看待,但方向没有争议。

36°C 对 51°C:温度才是可靠性的隐形杀手

Lambda 报告的数据里,最有说服力的是温度:CPO 方案的光学器件中位温度是 36°C,传统可插拔光模块是 51°C,相差 15 度。

激光器的寿命对温度极其敏感,业界经验是温度每升高 10°C,激光器寿命大致减半。51°C 到 36°C 这 15 度的差距,本身就足以解释可靠性数字的一大部分。而温度低的原因是液冷——Lambda 的部署用液冷把热量从交换芯片和光引擎上带走,这和传统可插拔模块靠面板风冷、且模块密集堆叠在交换机面板上散热困难的处境形成鲜明对比。

这里藏着一个容易被忽略的行业含义:CPO 的可靠性优势,有一部分其实是液冷给的。这意味着 CPO 的推广会和液冷数据中心的普及深度绑定,风冷机房想直接享受 CPO 的红利,没那么容易。

18 个可更换光源:这才是 CPO 落地的真正门槛

CPO 最大的历史争议是“可维护性”——光引擎和交换芯片封装在一起,坏了怎么办?NVIDIA 的答案是:每个交换机配 18 个可拆卸外部光源模块,光源在封装外,光引擎在封装内, technicians 可以在现场更换光源模块。

这个设计直接回应了 CPO 商业化最大的阻力。传统可插拔光模块的运维逻辑是“坏了整个模块拔下来换新的”,简单粗暴但可行;CPO 如果光引擎焊死在封装里,一旦激光器失效就要换整台交换机,运维成本不可接受。把激光器外置、做成可现场更换的模块,等于把最易损的部件从封装里“救”了出来,保留了现场可维护性。

这不是一个工程细节,而是 CPO 能否被云厂商接受的商业前提。

所以呢:三个层面的判断

对 NVIDIA 而言,这是把护城河从芯片延伸到网络。GB300 卖的是机架,机架之间怎么连,过去是客户自己选光模块厂商(博通、Coherent、旭创等),现在 NVIDIA 把 CPO 交换机塞进方案里,网络层的价值开始向 NVIDIA 集中。这和它收购 Mellanox 之后的路线一脉相承。

对光模块行业而言,这是一个需要认真对待的信号,但不是丧钟。CPO 替代的是交换机面板上的可插拔模块,短期内规模有限——Lambda 是首个万卡级部署,整个市场的切换会以年为单位。但方向已经明确:当 CPO 的能效和可靠性优势在万卡规模上被验证,超大规模云厂商的下一代集群采购清单里,CPO 会从“选项”变成“默认项”。传统光模块厂商的应对之道,是往更高速率、更远距离(CPO 目前主要覆盖机架间短距)和硅光芯片上游走。

对 AI 基础设施从业者而言,最实际的启示是:AI 工厂的竞争力指标正在从“有多少张卡”变成“这张网能连续跑多久不中断”。MTBI 这个指标被 NVIDIA 专门拎出来讲,说明大规模训练的痛点已经从算力不足转向中断成本——一次链路故障让几千张卡空转,损失的是整机时的钱。CPO 的价值,最终要放在这个账本上算。

其
行业动态NVIDIAAI基础设施光互连数据中心网络能效