Qwen3.8-Flash-Next GSQ-RCO 去审查量化版发布
原标题:SC117/Qwen3.8-Flash-Next-GSQ-RCO-abliterated-GGUF
AI 摘要
Hugging Face 用户 SC117 发布了 Qwen3.8-Flash-Next-GSQ-RCO-abliterated-GGUF,这是对 ISTA-DASLab 官方 GSQ-RCO 量化模型的“去审查”(abliterated)版本。作者未重新计算任何 GSQ 学习到的量化张量,而是将全部 48 层中 144 个写入残差流的投影张量替换为现成 abliterated 版本的对应权重,并保留了上游的逐张量类型分配。该版本提供 IQ3_S、IQ3_XXS、IQ2_XS、Q2_0 等多种量化档位,支持 262K 上下文,采用 Apache-2.0 许可,面向红队测试等用途。
正文节选
--- base_model: ISTA-DASLab/Qwen3.8-Flash-Next-GSQ-RCO-GGUF base_model_relation: quantized license: apache-2.0 library_name: gguf pipeline_tag: image-text-to-text language: - en - zh tags: - gguf - llama-cpp - abliterated - uncensored - quantization - tensor-transplant - gsq - rco - moe - mixture-of-experts - qwen3.8 - flash-next - long-context - reasoning - red-teaming --- <div style="font-family: -apple-system, BlinkMacSystemFont, 'Segoe UI', Roboto, sans-ser