DavidAU 发布 Qwen3-30B-A3B 128k 上下文 NEO Imatrix GGUF 量化模型
原标题:DavidAU/Qwen3-128k-30B-A3B-NEO-MAX-Imatrix-gguf
AI 摘要
Hugging Face 用户 DavidAU 发布了基于 Qwen3-30B-A3B 混合专家模型的 GGUF 量化版本,通过自研 NEO Imatrix 数据集和 YARN 技术将上下文从 32k 扩展至 128k。该版本提供从 IQ1_M 到 Q8 的多种量化规格及 Max、Max Plus、Max Super、Max ULTRA 等定制变体,可在 GPU 或纯 CPU/RAM 上运行,并针对 LM Studio 用户优化了专家数量选择。
正文节选
--- language: - en - fr - de - es - pt - it - ja - ko - ru - zh - ar - fa - id - ms - ne - pl - ro - sr - sv - tr - uk - vi - hi - bn license: apache-2.0 tags: - all use cases - creative - creative writing - all genres - tool calls - tool use - qwen3_moe - problem solving - deep thinking - reasoning - deep reasoning - story - writing - fiction - roleplaying - bfloat16 - role play - sillytavern - backyard - Lmstudio - context 128k - moe - mixture of experts - 8 experts activated - 128 experts - N