返回全部动态
ggml-org 发布小米 MiMo-V2.6-Flash-RL 的 GGUF 量化版
原标题：ggml-org/MiMo-V2.6-Flash-RL-GGUF
AI 摘要
ggml-org 在 Hugging Face 上发布了小米 MiMo-V2.6-Flash-RL 的 GGUF 量化版本，支持通过 llama.app 运行。该版本提供 MXFP4、Q2_K 等多种量化输出，并附带用于投机解码的 MTP 与 DFlash drafter sidecar，以及面向视觉和音频编码器的 Q8_0 mmproj。模型由 ggml-org 的自动转换工具生成，便于本地部署与推理。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
--- license: mit pipeline_tag: image-text-to-text tags: - gguf - quantized base_model: - XiaomiMiMo/MiMo-V2.6-Flash-RL --- # MiMo-V2.6-Flash-RL Run with https://llama.app ```bash llama serve -hf ggml-org/MiMo-V2.6-Flash-RL-GGUF ``` ### Source models - https://huggingface.co/XiaomiMiMo/MiMo-V2.6-Flash-RL ### Notes - The MXFP4 output keeps the routed experts at their native MXFP4 precision. - The Q2_K output keeps the expert down projections at MXFP4, and quantizes the gate/up projections to
发布时间：2026-09-25 20:50
抓取时间：2026-09-25 19:11
来源机构：Hugging Face