NVIDIA DSX MaxLPS 如何最大化 AI 工厂吞吐量与效率

AI 工厂运行在一套电气限制的层级之中：从公用事业供电、变电站、配电设备，到机架、节点和 GPU，每一层都构成约束。运营者必须在每个受管边界内保持合规，同时满足应用的吞吐与延迟目标。

静态功率规划通常为每个节点预留足够功率，让它们在同一时刻都能达到标称峰值。这种做法简单直接，但 AI 负载很少持续拉满：训练负载在计算、通信、同步和检查点之间移动，推理负载在预填充、解码、访存密集任务、网络活动和空闲之间交替，即便是同一模型的实例，也会随请求形态和并发度变化而呈现不同的功率曲线。

这种波动在「预留峰值」与「实际消耗」之间留下缺口。在静态的逐节点预留下，一个预留中未使用的容量无法转移给另一个节点，于是整个设施可能仍低于其上限，而额外的 GPU 容量却处于离线状态。NVIDIA 在开发者博客中介绍的 DSX MaxLPS，正是针对这一缺口：它监控实际功耗，并在参与资源之间动态重新分配可用功率，同时保持运营者的聚合预算与策略边界。

按 NVIDIA 的描述，DSX MaxLPS 结合芯片、系统、散热与软件技术，目标是在土地、电力与外壳（LPS）约束内最大化 AI 工厂产出，其控制层由 Dynamic Power Software 提供。控制过程包含五个技术要素：一是拓扑与资源组，运营者映射参与的基础设施，把节点组织进一个具有聚合功率预算的受管组；二是遥测，系统以足以发现可用余量和新兴功率事件的间隔，采集 GPU、节点、机架和组级功率数据；三是策略，由运营者定义节点上限、组上限、分配优先级、预留要求以及对维护或紧急事件的响应；四是分配与控制，当部分资源消耗低于其分配额时，软件调整参与 GPU 的功率上限，使其他资源可以使用这部分容量；五是验证与执行，系统将实测功率与获批的组预算比对，并在消耗接近上限时调整分配。

这里有一条必须被明确划出的边界：NVIDIA 强调这是协调式分配，而不是增加站点供电。控制回路只是让同一受管功率预算下产出更多有效工作。换言之，它改变的是预算内部的分配方式，而不是预算本身的大小。

评估由 NVIDIA 与 Nscale 联合进行：Nscale 在其冰岛凯夫拉维克 Verne 园区数据中心部署 MaxLPS 软件并采集遥测，NVIDIA 负责运行负载。该数据中心完全由可再生能源供电。

评估环境是特定配置：NVIDIA Blackwell Ultra GPU、FP4 精度的 Kimi K2.5、NVIDIA Dynamo 与 NVIDIA TensorRT LLM，输入序列长度 8K、输出序列长度 1K。负载组合同时包含高吞吐与低延迟推理实例，从而在同一个受管组内制造出不同的功率与服务画像。

两种配置处于同一 264.4 kW 的已配置功率预算之下。静态基线使用 35 个四 GPU 节点共 140 块 GPU，运行两个各 52 GPU 的高吞吐实例和一个 36 GPU 的低延迟实例；DSX MaxLPS 配置使用 48 个四 GPU 节点共 192 块 GPU，新增第三个 52 GPU 高吞吐实例，并保留同一个 36 GPU 低延迟实例。

还有一个容易被忽略的受控条件：两种配置下作业都跨四个机架运行，且每个分布式负载被限制在单一机架内，以控制跨机架性能差异。NVIDIA 同时指出，在已验证跨机架性能等价的测试环境中，这种限制并非必须。

托管 GPU 数从 140 增至 192，增加 37.1%。聚合吞吐从基线的 1,084,503 tokens/s 提升到 1,618,443 tokens/s，增幅 49.2%。每已配置瓦特吞吐从 4.10 提升到 6.12 tokens/s/W，同样是 49.2% 的增幅。

值得注意的是增量来自哪里。高吞吐实例的单实例输出从 59,153 tokens/s 变为 59,220 tokens/s，仅 +0.1%；低延迟实例的单实例输出保持 2,265 tokens/s 不变。也就是说，聚合吞吐的提升并非来自单个实例跑得更快，而是来自在同一预算内多跑了一个 52 GPU 的高吞吐实例。

功率侧的变化同样清晰：平均 GPU 功率从 97.0 kW 升至 131.8 kW（+35.9%），总实测功率从 166.2 kW 升至 198.9 kW（+19.7%），功率预算利用率从 62.9% 升至 75.2%，提高 12.3 个百分点。基线配置下预算利用率只有六成出头，这正是静态预留把可用功率「搁浅」的直接体现。

收益不是无条件的。评估显示，中位数与 P75 延迟保持在基线 5% 以内，但 P99 首 token 时间增加 17%。NVIDIA 由此指出，需要在容量收益之外评估尾延迟。

这意味着，如果一项服务的等级目标由尾部延迟而非中位数定义，那么 49.2% 的吞吐提升并不能直接换算为可交付的服务能力。评估本身并未量化这 17% 的 P99 上升对实际生产服务等级的影响，这属于尚未被回答的问题。

评估团队测量的指标包括归一化聚合吞吐与单实例吞吐、首 token 时间、端到端延迟、交互性，以及 GPU、CPU 和机架功率遥测。NVIDIA 的解释是，把这些指标放在一起比较，可以防止吞吐收益掩盖延迟、稳定性或功率合规方面的退化。

NVIDIA 给出的落地路径是五阶段验证流程：定义管理边界；建立有代表性的基线；保守地引入策略；逐步扩容并在每个阶段测试；只有在全部目标达成后才设定生产运行上限。这套流程的用意是把「动态分配」从一次演示变成可复现的运营方法。

但需要把已确认的实测与厂商宣称的潜力分开看。NVIDIA 称 DSX MaxLPS 可让客户在同一获批功率预算内部署最多多出 40% 的 GPU，而本次实测的 GPU 增幅是 37.1%，两者并不等同。

更关键的限定条件在于：所有数据来自 NVIDIA 与 Nscale 的联合评估，而 NVIDIA 是 DSX MaxLPS 的提供方，结果属于厂商自述，缺少独立第三方复现或验证。结论也不适用于功率预算发生变化的情形，因为两种配置都运行在同一 264.4 kW 预算内。此外，不同模型、序列长度或负载组合下吞吐与延迟的权衡是否一致尚不明确；五阶段验证流程在真实生产环境中的效果与所需时间未被给出；该方案在非可再生能源供电或不同电气层级约束下的表现也未被评估。