Unsloth 发布 Qwen3.8-Flash-Next GGUF 量化版
原标题:unsloth/Qwen3.8-Flash-Next-GGUF
AI 摘要
Unsloth 在 Hugging Face 发布了 Qwen3.8-Flash-Next 的 GGUF 量化版本,采用 Unsloth Dynamic v3.1 量化方案,宣称相比其他前沿量化方案准确率提升 15%、token 使用量减少 50%、推理速度提升 5%,并支持 MTP 实现 1.3-1.7 倍推理加速。该模型是 Qwen 推出的实验性架构预览,将作为 Qwen4 的基础,引入 QSA 混合注意力、Gated Residual、N-gram Embedding 等架构创新,可通过 llama.cpp、Strata 或 Unsloth Desktop 运行。
正文节选
--- license: other license_name: qwen-community-1.0 license_link: LICENSE pipeline_tag: image-text-to-text base_model: - Qwen/Qwen3.8-Flash-Next tags: - unsloth - Qwen --- # Read our How to [Run Qwen3.8-Flash-Next Guide!](https://unsloth.ai/docs/models/qwen3.8-next) <div> <p style="margin: 0 0 0px 0; margin-top: 0px;"> <em><a href="https://unsloth.ai/docs/basics/dynamic-3.0-ggufs">Unsloth Dynamic v3.1</a> achieves superior accuracy & outperforms other leading quants.</em> </p> <div sty