Qwen3.8-Flash-Next 发布 ik_llama v3 GGUF 量化
原标题:ji-farthing/Qwen3.8-Flash-Next-ik-llama-GGUF
AI 摘要
用户 ji-farthing 在 Hugging Face 发布了 Qwen3.8-Flash-Next 的 ik_llama.cpp GGUF 量化版本 v3(IQ4_KT 与 IQ3_KT),使用针对 agentic coding 校准的重要性矩阵,并附带模型自身 MTP 草稿头的 IQ4_KT 量化。相比被替换的旧版,v3 在英文和代码上的平均 KL 散度降低约 42%–56%,文件体积也分别缩小 5.7 GiB 和 7.7 GiB。这些文件需要 ik_llama.cpp 的特定提交版本才能正确读取。
正文节选
--- license: other license_name: qwen-community-license-1.0 license_link: https://huggingface.co/Qwen/Qwen3.8-Flash-Next/blob/main/LICENSE base_model: - Qwen/Qwen3.8-Flash-Next base_model_relation: quantized pipeline_tag: text-generation tags: - gguf - ik_llama - qwen4exp - imatrix - mtp - speculative-decoding - text-only --- **Hugging Face's download widget does not recognize _KT GGUFs. Download links are in the table below.** # Qwen3.8-Flash-Next, ik_llama.cpp IQ4_KT and IQ3_