返回全部动态

antirez 发布 DeepSeek-V4.1-Flash GGUF 量化权重

原标题:antirez/deepseek-v4.1-flash-gguf

Hugging Face New and Trending Models一手来源开源质量 77

AI 摘要

开发者 antirez 在 Hugging Face 发布了 DeepSeek-V4.1-Flash 的 GGUF 量化权重,专为 DwarfStar 的 Metal 实现校准,提供 Q2(340.60 GiB)和 Q4(482.98 GiB)两档语言模型及独立视觉编码器。该版本使用 IQ2_XXS/Q2_K 与 Q4_K 量化并保留原生 FP8 Engram 表,支持在单台 128GB Mac 上通过 SSD 流式运行。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

--- license: mit base_model: deepseek-ai/DeepSeek-V4.1-Flash tags: - gguf - deepseek - metal --- # DeepSeek V4.1 Flash GGUF for DwarfStar Calibrated weights for the Metal implementation in [DwarfStar](https://github.com/antirez/ds4), developed on the `ds4.1flash` branch. These are not interchangeable with DeepSeek V4 Flash weights or its DSpark drafter. | Download target | File size | Main weights | | --- | ---: | ---: | | `ds41f-q2` | 340.60 GiB | 151.77 GiB | | `ds41f-q4` | 482.98 GiB


发布时间:2026-10-19 16:43
抓取时间:2026-10-19 16:45
来源机构:Hugging Face
阅读原文huggingface.co