NVIDIA AI 工厂如何通过高产出、长寿命与通用性最大化投资回报
NVIDIA AI 工厂通过极致全栈协同设计实现最高能效,Vera Rubin NVL72 系统每兆瓦吞吐量较 GB300 NVL72 提升超 30 倍,DeepSeek V4 Pro 模型成本降低至多 45 倍。CUDA 平台跨代兼容确保持续软件优化,使 A100 等旧硬件在部署六年后仍具商业价值并延长折旧周期。该架构支持从语言到物理 AI 的全类型负载,通过广泛适用性深化需求以最大化投资回报。
NVIDIA AI 工厂通过极致全栈协同设计实现最高能效,Vera Rubin NVL72 系统每兆瓦吞吐量较 GB300 NVL72 提升超 30 倍,DeepSeek V4 Pro 模型成本降低至多 45 倍。CUDA 平台跨代兼容确保持续软件优化,使 A100 等旧硬件在部署六年后仍具商业价值并延长折旧周期。该架构支持从语言到物理 AI 的全类型负载,通过广泛适用性深化需求以最大化投资回报。
CoreWeave 宣布在云端提供 NVIDIA Vera Rubin NVL72 系统,首批客户 Cognition 实测显示其 SWE-2 推理工作负载的总 Token 吞吐量较 GB200 NVL72 提升高达 4.8x。
NVIDIA 发布 DSX Ready 认证计划,旨在验证符合其 AI 工厂参考设计要求的合作伙伴产品。该计划首批涵盖电池储能系统(BESS)和冷却分配单元(CDU),已纳入 Hitachi Energy、Tesla、LG Electronics 等厂商方案。此举帮助构建者降低集成风险,确保电源与冷却设施适配整体架构以优化 AI 产出。
NVIDIA Vera Rubin NVL72 系统在 MLPerf Inference v6.1 预览提交中 debut,其吞吐量比 GB300 NVL72 高出最多 3.7 倍(Qwen3-VL)和 2.5 倍(DeepSeek-R1)。GB300 NVL72 在四机架 288-GPU 配置下实现了 99% 的扩展效率,且软件优化使 v6.1 版本性能较 v6.0 提升最高 1.6 倍。
推荐理由:原文给出了 Vera Rubin NVL72 在 MLPerf Inference v6.1 中的具体吞吐倍数和扩展效率数据,读者可据此评估新一代硬件对推理成本的实际影响。
Emerald AI、Google 和 NVIDIA 宣布成立 AI 能源管理联盟(AEMA),旨在推动能根据电网状况动态管理用电的灵活 AI 数据中心。该联盟采用技术中立且基于性能的规则,通过标准化响应速度等指标,加速美国 AI 基础设施互联并提升电网可靠性。
NVIDIA 在 AI Infra Summit 上公布 Vera Rubin 和 DSX 平台的最新进展,重点展示了通过优化 Tokens Per Watt 提升 AI 工厂能效的成果。
推荐理由:原文披露了 Vera Rubin 与 DSX 平台在 tokens per watt 上的实测数据,读者可据此评估 AI 工厂的能效优化路径。
费城儿童医院(CHOP)基于 NVIDIA 联合创立的开源框架 MONAI,将儿童心脏解剖模型生成时间从 4 小时缩短至数秒。该方案结合 Newton 物理引擎与 NVIDIA Warp 框架,在 GPU 加速下实现近乎实时的设备部署模拟,支持全美超 20 家医院开展心脏建模临床工作。