spiritfather 发布 Qwen3.8-Flash-Next 的 GGUF 量化版本
原标题:spiritfather/cyberneurova-Qwen3.8-Flash-Next-i1-GGUF
AI 摘要
Hugging Face 用户 spiritfather 发布了 cyberneurova-Qwen3.8-Flash-Next 的 GGUF 量化版本,基于 Qwen/Qwen3.8-Flash-Next 量化而来,采用 imatrix 校准与 PLE 逐层专家混合精度方案。该版本面向 llama.cpp 运行,主打创意写作场景,并在 CaliperBench 上评测;其中 IQ4_XS 相对 Q8_0 的困惑度仅增加 0.28%。发布者称这是移除拒绝行为的无限制版本,但保留了通用能力。
正文节选
--- base_model: Qwen/Qwen3.8-Flash-Next base_model_relation: quantized license: apache-2.0 library_name: llama.cpp pipeline_tag: text-generation quantized_by: spiritfather tags: - gguf - imatrix - creative-writing - llama.cpp --- # cyberneurova-Qwen3.8-Flash-Next — GGUF (imatrix (i1) quants) <p align="center"> 🧬 Source model: <a href="https://huggingface.co/cyberneurova/cyberneurova-Qwen3.8-Flash-Next" target="_blank">cyberneurova/cyberneurova-Qwen3.8-Flash-Next</a> <br> 📦 Static q