社区发布小米MiMo-V2.6-Flash 50%专家剪枝GGUF量化版

AI 摘要

社区开发者 patrickbdevaney 在 Hugging Face 发布了小米 MiMo-V2.6-Flash-RL 的 50% 专家剪枝版本 MiMo-V2.6-Flash-REAP50 的 GGUF 量化文件，使用 HOPE 目标在 REAP 显著性基础上选择保留 256 个路由专家中的 128 个。该版本保留原生 MXFP4 专家权重、BF16 注意力与嵌入，并附带视觉/音频多模态投影器和多令牌预测草稿头，可在 llama.cpp 中运行。作者明确表示尚未进行端到端质量基准测试，仅公布了校准语料上的显著性保留率，因此剪枝后模型的实际性能仍属未知。

正文节选

--- license: mit base_model: - XiaomiMiMo/MiMo-V2.6-Flash-RL - patrickbdevaney/MiMo-V2.6-Flash-REAP50 tags: - gguf - llama.cpp - reap - hope - moe - pruned - multimodal - vision - audio - mtp --- # MiMo-V2.6-Flash REAP-50 — GGUF (community) Community GGUF quantisations of **MiMo-V2.6-Flash-REAP50**, a 50% routed-expert pruned checkpoint of `XiaomiMiMo/MiMo-V2.6-Flash-RL`. Experts were selected with the **HOPE** objective over [REAP](https://github.com/CerebrasResearch/r

发布时间：2026-10-12 11:28

抓取时间：2026-10-12 11:29

来源机构：Hugging Face