ISTA-DASLab 发布 Qwen3.8-Flash-Next 专家剪枝量化 Coder 版
原标题:ISTA-DASLab/Qwen3.8-Flash-Next-GSQ-RCO-Coder-GGUF
AI 摘要
ISTA-DASLab 在 Hugging Face 发布 Qwen3.8-Flash-Next 的 GSQ-RCO Coder 压缩版本,通过移除 50% 的专家(512 个中保留一半)并将剩余权重以 3.5 bpw 量化,把模型从 354 GB 降至 58.4 GB,常驻内存仅 29.6 GB,可放入单张 32 GB 加速卡。该版本面向代码、智能体工具调用、视觉与空间推理,SWE-bench Verified 保留 91.3%,LiveCodeBench v6 保留 98.7%,属于实验性发布。
正文节选
--- base_model: Qwen/Qwen3.8-Flash-Next base_model_relation: quantized pipeline_tag: image-text-to-text library_name: gguf license: apache-2.0 tags: - gguf - gsq - rco - quantization - pruning - expert-pruning - mixed-precision - ist-daslab - moe - code --- <div align="center"> <a href="https://github.com/IST-DASLab"><img src="assets/banner.png" alt="GGUF, GSQ-RCO expert-pruned coder" width="100%"/></a> <br/> # Qwen3.8-Flash-Next · GSQ-RCO Coder **A 512-expert mix