返回全部动态

ZeroDigest 发布 Qwen3.8-27B 架构感知量化系列,支持多 token 预测

原标题:zerodigest/Qwen3.8-27B-YMQ-MTP-GGUF

Hugging Face New and Trending Models一手来源模型发布质量 46

AI 摘要

ZeroDigest 实验室发布了基于 Qwen3.8-27B 的架构感知量化模型系列 Qwen3.8-27B-YMQ-MTP-GGUF,使用自定义 YMQ-Compiler v2.0 进行混合精度量化,支持多 token 预测(MTP)和高上下文优化。该系列提供从 XXS 到 XL 多个预设,针对不同 VRAM 容量优化,并公布了 WikiText-2 困惑度等评估指标。项目为独立研究,无外部资助,通过 GitHub、RunPod 和 Ko-fi 等渠道寻求支持。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

--- license: apache-2.0 base_model: Qwen/Qwen3.8-27B tags: - text-generation - gguf - quantizer - autoround - architecture-aware - mamba - ssm - multi-token-prediction - mtp --- <!-- zerodigest-lab-banner-v2-mid-tone --> <div style="background: #1f1f23; color: #f4f4f5; padding: 20px; border: 1px solid #38bdf8; border-radius: 8px; margin: 20px 0; font-family: -apple-system, BlinkMacSystemFont, 'Segoe UI', Roboto, sans-serif;"> <h2 style="color: #38bdf8; margin: 0 0 10px 0; font-size: 18px; fon


发布时间:2026-09-03 03:56
抓取时间:2026-09-01 04:15
来源机构:Hugging Face
阅读原文huggingface.co