Underdog AI 发布 Saluki 27B 模型:Qwen3.8-27B 2-bit 量化版本仅需 7.89GB
AI新闻阅读 0

10 月 10 日,人工智能实验室 Underdog AI 正式发布了 Saluki 27B 模型。该模型是开源大模型 Qwen3.8-27B 的 2-bit 量化调优版本,文件大小仅为 7.89GB,专为智能体应用场景设计。在能力评估方面,Saluki 模型仅保留了文字输入输出能力,舍弃了视觉处理功能。然而其在日常推理和工具使用任务上表现优异,特别是在工具选择和多工具并行调用方面,性能甚至超过了全尺寸的 Qwen3.8-27B 原模型,尽管数学表现相对较弱。Saluki 模型采用了标准的 llama.cpp 格式,用户可以直接在基于 llama.cpp 构建的应用程序中加载使用,无需进行任何自定义编译操作,极大地降低了部署门槛。该模型相关信息可通过 Underdog AI 官网及 Hugging Face 获取。