Underdog发布2-bit量化Saluki 27B模型

Conway Research旗下团队Underdog发布了名为Saluki 27B的大语言模型。该模型基于Qwen3.8-27B架构，采用2-bit GGUF格式进行深度量化。根据最新报道，Saluki 27B的文件大小仅为7.89 GB，相比原始BF16版本所需的54 GB存储占用大幅减少。尽管体积显著缩小，该量化模型在工具调用能力上表现优异，据报道其性能超越了未量化的原版模型。这一进展展示了极低比特量化技术在保持甚至提升特定任务性能方面的潜力，为资源受限环境下的部署提供了新选择。目前公开信息主要聚焦于其压缩效率及在工具调用基准测试中的相对优势，未提及具体的训练细节或更广泛的通用能力对比数据。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。