vLLM 集成 Helion 实现高性能可移植线性后端
vLLM 集成 PyTorch 原生 DSL Helion 构建线性后端,通过自动调优在 NVIDIA Hopper GPU 上超越 CUTLASS 和 DeepGEMM。该方案支持 FP8/INT8 量化,部分工作负载吞吐量提升超 10%,但面临启动延迟与维护开销挑战。
vLLM 集成 PyTorch 原生 DSL Helion 构建线性后端,通过自动调优在 NVIDIA Hopper GPU 上超越 CUTLASS 和 DeepGEMM。该方案支持 FP8/INT8 量化,部分工作负载吞吐量提升超 10%,但面临启动延迟与维护开销挑战。
Google 发布最新前沿模型 Gemini 4 Argon,具备 100 万 token 上下文窗口和高级推理能力,目前通过 Fairwind Program 向受信任的网络安全防御者分阶段推出。
推荐理由:原文汇总了 Gemini 4 Argon 等核心模型的能力参数与落地场景,读者可据此评估其在网络安全及复杂推理任务中的实际表现。
OpenAI 发布 GPT-6 系列模型选型指南,指导初创公司如何根据需求选择具体模型。内容涵盖调整推理强度、优化提示词与技能、协调工具调用以及准备生产工作流等关键环节。
OpenAI 的 GPT-6 Astra Ultrafast 模型现已通过 NVIDIA Blackwell GPU 在 API 及 ChatGPT Work/Codex 中上线,其 token 生成速度比 Astra Standard 模式快至多 8 倍。
推荐理由:原文说明了GPT-6 Astra Ultrafast在NVIDIA Blackwell GPU上的8倍加速效果及其对开发者工作流的影响,读者可据此评估其在实际编码和交互场景中的性能提升价值。
Google DeepMind 宣布推出新前沿模型 Gemini 4 Argon,该模型旨在通过深度推理支持复杂的长周期工作流,目前正通过 Fairwind Program 向受信任的网络安全防御者逐步开放。
推荐理由:原文披露了 Gemini 4 Argon 在长上下文输出、软件工程及网络安全防御上的具体基准数据与分阶段开放策略,为评估前沿模型在复杂工作流中的实际效能提供了关键参考。
OpenAI 正与一个独立的“数学与人工智能咨询小组”合作,以指导新兴 AI 成果的审查与沟通。该小组旨在为相关技术进展提供专业评估框架,确保信息发布的准确性与规范性。
PyTorch 团队扩展 FlashAttention-4 以支持 MXFP8 前向和反向传播,在 LLM 形状上达到 2.85 PF/s 前向和 2 PF/s 反向吞吐量。
NVIDIA Vera Rubin NVL72 系统在 MLPerf Inference v6.1 预览提交中 debut,其吞吐量比 GB300 NVL72 高出最多 3.7 倍(Qwen3-VL)和 2.5 倍(DeepSeek-R1)。GB300 NVL72 在四机架 288-GPU 配置下实现了 99% 的扩展效率,且软件优化使 v6.1 版本性能较 v6.0 提升最高 1.6 倍。
推荐理由:原文给出了 Vera Rubin NVL72 在 MLPerf Inference v6.1 中的具体吞吐倍数和扩展效率数据,读者可据此评估新一代硬件对推理成本的实际影响。
Salesforce 在 Dreamforce 大会上宣布推出其首个 CRM 推理模型 Koa,该模型基于 NVIDIA Nemotron 3 Super 构建。
推荐理由:Salesforce 基于 NVIDIA Nemotron 3 Super 推出首个 CRM 推理模型 Koa,在特定业务场景下错误率降低三倍并计划冬季全面开放。
NVIDIA 在 AI Infra Summit 上公布 Vera Rubin 和 DSX 平台的最新进展,重点展示了通过优化 Tokens Per Watt 提升 AI 工厂能效的成果。
推荐理由:原文披露了 Vera Rubin 与 DSX 平台在 tokens per watt 上的实测数据,读者可据此评估 AI 工厂的能效优化路径。
OpenAI 分享了针对 Navier–Stokes 千禧年难题的 AI 生成解决方案。该方案包含一份说明文档以及使用 Lean 编写的形式化证明。
Google DeepMind 推出 Gemini 3.8 Flash 和 3.8 Flash Cyber 两款新模型,旨在提升智能体工作流与网络安全能力。
推荐理由:原文展示了新模型在长周期编码和网络安全领域的具体性能提升及成本优势,为评估其在复杂工作流中的实际价值提供了直接依据。
Google DeepMind 发布基于 Gemini 构建的多智能体 AI 系统 Co-Scientist,旨在通过迭代生成、辩论和演化假设来加速科学研究。该系统包含生成、反思、排名和演化等专用智能体,并引入类似 AlphaGo 的“想法锦标赛”机制对假设进行验证和排序。
推荐理由:原文展示了多智能体协作生成假设的具体机制及在肝病、ALS等领域的实测案例,为科研人员评估AI辅助发现工具提供了可参考的落地场景。