跳到正文
原文
NVIDIA· Vishal Ganeriwala·· 18 天前精选AI 评分68

NVIDIA 发布 DSX 平台以最大化 AI 工厂生产效率

From Megawatts to Tokens: How NVIDIA Maximizes AI Factory Production

AI 导读

NVIDIA 推出 DSX 平台,通过 MaxLPS、Flex 等技术组件优化 AI 工厂每兆瓦的 Token 吞吐量。Lambda 在 HGX B200 集群上的首次验证显示,智能管理固定功率预算可使 Token 吞吐量提升 24%,性能功耗比提高 23%。

推荐理由

原文披露了 NVIDIA DSX 平台在固定功率预算下提升 Token 吞吐量的实测数据及电网响应案例,为评估 AI 工厂能效优化提供了具体参考。

来源:NVIDIA · blogs.nvidia.com