DeepSeek-V4-Flash DSpark 草稿模型 GGUF 发布
原标题：bleysg/DeepSeek-V4-Flash-DSpark-drafter-GGUF
AI 摘要
bleysg 发布了 DeepSeek-V4-Flash 的 DSpark 草稿模型 GGUF 版本，专为 ds4 C+CUDA 推理引擎设计，支持无损投机解码，在 DGX Spark 上平均加速 1.38 倍，峰值 1.71 倍。该文件包含 3 层 transformer、目标融合投影、Markov 头等，采用 Q2_K 路由专家等量化策略，约 6.5 GiB。用户可通过 ds4-on-spark 一键部署或手动配置使用。
正文节选
--- license: mit base_model: deepseek-ai/DeepSeek-V4-Flash tags: - gguf - speculative-decoding - ds4 - dgx-spark --- # DeepSeek-V4-Flash DSpark drafter (Q2K-Q8 GGUF) The **DSpark block drafter** for [DeepSeek-V4-Flash](https://huggingface.co/deepseek-ai/DeepSeek-V4-Flash), packaged for the [`ds4`](https://github.com/antirez/ds4) C+CUDA inference engine — specifically the [`Entrpi/ds4`](https://github.com/Entrpi/ds4) batched-serving fork (release `v0.1.1`+), where it drives **lossless speculati