跳到正文
原文
MarkTechPost· Jean-marc Mommessin·· 4 小时前精选AI 评分78

Inception 发布 Mercury 3 扩散大语言模型,推理速度达 1,068 tokens/s

Inception Releases Mercury 3 Diffusion LLM at 1,068 Tokens per Second

AI 导读

Inception 发布第四代扩散大语言模型 Mercury 3,宣称在 NVIDIA GPU 上达到 1,068 tokens/s 的生成速度并支持 1M token 上下文窗口。

推荐理由

Inception 发布 Mercury 3,以并行生成实现高吞吐,在指令遵循和编码基准上领先竞品,适合对延迟敏感的 Agent 场景。

来源:MarkTechPost · marktechpost.com