vLLM 集成 Helion 实现高性能可移植线性后端
vLLM 集成 PyTorch 原生 DSL Helion 构建线性后端,通过自动调优在 NVIDIA Hopper GPU 上超越 CUTLASS 和 DeepGEMM。该方案支持 FP8/INT8 量化,部分工作负载吞吐量提升超 10%,但面临启动延迟与维护开销挑战。
vLLM 集成 PyTorch 原生 DSL Helion 构建线性后端,通过自动调优在 NVIDIA Hopper GPU 上超越 CUTLASS 和 DeepGEMM。该方案支持 FP8/INT8 量化,部分工作负载吞吐量提升超 10%,但面临启动延迟与维护开销挑战。
PyTorch Conference North America 2026 聚焦 Ray 分布式计算框架,Ion Stoica 将发表关于 Ray 与 Kubernetes 协同演进的主题演讲。
PyTorch 基金会 OSPO 与学术外联工作组启动“从学术界到采用”项目征集,旨在帮助基于 PyTorch、DeepSpeed 等技术的学术开源项目实现可持续化。入选的 8 个项目将在 PyTorch Conference North America 2026 的 Day 0 活动中进行闪电演讲,并参与由维护者指导的实操工作坊,以解决文档、治理及社区建设等转型难题。
费城儿童医院(CHOP)基于 NVIDIA 联合创立的开源框架 MONAI,将儿童心脏解剖模型生成时间从 4 小时缩短至数秒。该方案结合 Newton 物理引擎与 NVIDIA Warp 框架,在 GPU 加速下实现近乎实时的设备部署模拟,支持全美超 20 家医院开展心脏建模临床工作。
Google DeepMind 宣布开源 WeatherNext 2 和 WeatherNext Cyclones 模型,其 Nature 论文显示该 AI 模型在气旋路径、强度和风结构预测上达到 SOTA,平均为预报员提供额外一天的预警时间,相当于过去十年的气象技术进步。
推荐理由:WeatherNext 在气旋预测中实现相当于十年气象进步的精度提升,并开源了模型权重与代码。