samai-8b M8 终版 GGUF 发布:agent 能力增强
原标题:tchbcb/samai-8b-M8
AI 摘要
开发者 tchbcb 在 Hugging Face 发布 samai-8b 的 M8 终版 GGUF 量化权重,基于 Qwen/Qwen3.5-9B 通过 QLoRA 蒸馏增强 agent 执行能力。在 60 题 agent 评测中总分从 M7 的 86.7 提升至 96.7,多工具编排与负向直答显著改善,knight15 能力回归保持满分。同盘位对比中,该 9B/5.78G 模型以 62.5% 总分胜过 27B/5.95G 的 Ternary-Bonsai-2-27B。
正文节选
--- license: apache-2.0 base_model: Qwen/Qwen3.5-9B tags: - gguf - qlora - agent - function-calling - llama.cpp language: - zh - en --- # samai-8b — M8 终版权重 (GGUF) samai-8b 是基于 `Qwen/Qwen3.5-9B`(bf16)持续蒸馏增强的对话/执行模型。本仓库交付 **M8「agent 执行能力增强」轮的最终 q4_k_m 量化权重**,为系列工作的终版交付。 ## 评测结果 | 评测集 | M7 基线 | M8 终版 | 提升 | |---|---|---|---| | agent60 A 单跳 | 100.0 | 100.0 | — | | agent60 B 多工具 | 73.3 | 100.0 | +26.7 | | agent60 C 多轮链式 | 100.0 | 93.3 | -6.7 | | agent60 D 负向直答 | 80.0 | 93.3 | +13.3 | | **agent60