vLLM 推出硬件无关模型层以兼顾前沿性能与多硬件兼容

vLLM 引入新的“硬件无关”（HW agnostic）模型层，旨在解决内部实现变更导致与 fullgraph torch.compile 不兼容的问题，从而支持非 NVIDIA 加速器、旧款 GPU 及多样化模型。