跳到正文
原文
MarkTechPost· Michal Sutter·· 3 小时前AI 评分45

vLLM Semantic Router 发布 Decision 3.0 开源多模态决策模型

What is Decision 3.0? vLLM Semantic Router’s New Open Decision Models

AI 导读

vLLM Semantic Router 团队发布 Decision 3.0,这是一套基于 Qwen 微调的开源多模态决策模型。该系列包含从 0.8B 到 27B 的 5 种尺寸,支持文本、JSON 和图像输入,采用 Apache-2.0 许可。其中 9B 的 d3-flash 在内部评估中得分超过上一代 27B 模型,单请求文本延迟低至 21.7 ms。

来源:MarkTechPost · marktechpost.com