返回全部动态
Qwen3.8-Flash-Next MTP 草稿模型 GGUF 发布
原标题：quimmedes/Qwen3.8-Flash-Next-MTP-GGUF
AI 摘要
Hugging Face 用户 quimmedes 发布了 Qwen3.8-Flash-Next 的 MTP（多 token 预测）草稿模型 GGUF 格式，支持推测解码，需配合其 fork 的 cafe-llama.cpp 引擎使用。该模型提供多种量化版本，并给出了详细的构建和运行示例，旨在提升解码速度。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
--- license: apache-2.0 base_model: Qwen/Qwen3.8-Flash-Next tags: - llama.cpp - speculative-decoding - mtp - gguf - qwen --- # Qwen 3.8 Flash Next - MTP Draft Speculative Model (GGUF) This repository provides working MTP (Multi-Token Prediction) draft models in GGUF format for **Qwen 3.8 Flash Next** (and experimental architectures with hyper-connections / QSA / Hadamard KV rotations), powered by [cafe-llama.cpp](https://github.com/quimmedes/cafe-llama.cpp). ## Compatible Engine This MTP mod
发布时间：2026-09-03 22:31
抓取时间：2026-09-03 22:32
来源机构：Hugging Face