Qwen3.8-Flash-Next 去审查 GGUF 量化版发布,适配 DGX Spark
原标题:wy2pay/Qwen3.8-Flash-Next-abliterated-GGUF-IQ4XS
AI 摘要
Hugging Face 用户 wy2pay 发布了 Qwen3.8-Flash-Next 的去审查(abliterated)GGUF 量化版本,基于 huihui-ai 的 abliterated 模型,采用 IQ4_XS 量化(97.5GB),并附带 LoRA v1 适配器、MTP 投机解码草稿模型和视觉投影器。该版本针对单台 DGX Spark(128GB 统一内存)优化,支持 262K 原生上下文,通过 YaRN×4 可扩展至 1M 上下文,在 8×H100 上验证 762K token 的针检索全部命中。
正文节选
--- License: apache-2.0 Base_model: huihui-ai/Huihui-Qwen3.8-Flash-Next-abliterated Tags: [gguf, llama.cpp, qwen4_exp, abliterated, lora, dgx-spark] --- # Qwen3.8-Flash-Next Abliterated — GGUF (IQ4_XS) + LoRA v1 for DGX Spark The abliterated GGUF for Qwen3.8-Flash-Next (125B / 6B-active MoE, arch `qwen4_exp`) with fine-tune LoRA and a config serve for a single DGX Spark (128GB unified memory). ## Files | File | Size | Role | |---|---|---| | `Qwen3.8-Flash-Next-Uncensored-IQ4_XS-0000{1,2,3}-o