ZeroDigest 发布 Qwen3.8-27B 架构感知量化系列
原标题:zerodigest/Qwen3.8-27B-Cold-Fusion-GAIN-V1.1-YMQ-GGUF
AI 摘要
ZeroDigest 实验室发布了基于 Qwen3.8-27B Cold-Fusion GAIN V1.1 的架构感知量化模型系列,采用自定义 YMQ-Compiler 框架进行混合精度量化,支持多 token 预测(MTP)和长上下文优化。该系列提供多个预设档位,覆盖 9.1GB 至 14.5GB 的模型大小,并报告了 WikiText-2 困惑度指标,旨在提升代码开发场景下的推理效率。
正文节选
--- license: apache-2.0 base_model: DavidAU/Qwen3.8-27B-Cold-Fusion-GAIN-V1.1 library_name: gguf tags: - text-generation - gguf - quantizer - autoround - architecture-aware - mamba - ssm - multi-token-prediction - mtp - 27b --- <!-- zerodigest-lab-banner-v2-mid-tone --> <div style="background: linear-gradient(135deg, #27272a 0%, #1f1f23 100%); color: #f4f4f5; padding: 25px; border: 2px solid #38bdf8; border-radius: 12px; margin: 20px 0; font-family: -apple-system, BlinkMacSystemFont, 'Segoe UI'