DeepSeek-V4.1-Flash 去审查版 ds4 GGUF 量化发布
原标题:audreyt/DeepSeek-V4.1-Flash-Abliterated-GGUF
AI 摘要
Hugging Face 用户 audreyt 发布了 DeepSeek-V4.1-Flash-Abliterated-GGUF,这是基于社区去审查(abliterated)版 DeepSeek V4.1 Flash 检查点转换的 DwarfStar(ds4)专用 GGUF 量化文件,包含 Maya-XS、Q1、Q2 等多个版本。文件采用 ds4 特有的张量布局与量化组合,约 107-152 GiB 的常驻权重可在 128 GB Mac 上通过 Metal 全量驻留或 SSD 流式加载运行。发布者还给出了与旧 Q1 版本的质量对比数据(NLL 降低 16.34%、API top-token 一致率 86.58%),并说明需配合 audreyt/ds4 特定版本使用。
正文节选
--- license: mit base_model: - pqhaz/DeepSeek-V4.1-Flash-1017-heretic - s-zaizen/DeepSeek-V4.1-Flash-Abliterated - peasantsmith/DeepSeek-V4.1-Flash-1017-Maya-GGUF tags: - deepseek - deepseek_v41 - abliterated - uncensored - gguf - iq1_s - iq2_xxs - q2_k - moe --- # DeepSeek-V4.1-Flash-Abliterated-GGUF DwarfStar ([ds4](https://github.com/antirez/ds4)) GGUFs of community-abliterated DeepSeek V4.1 Flash checkpoints. They are not general GGUFs: the tensor layout, quantization mix and Engram packin