GLM-5.3-Flash 50%专家剪枝版GGUF发布
原标题:patrickbdevaney/GLM-5.3-Flash-REAP50-GGUF
AI 摘要
开发者 patrickbdevaney 在 Hugging Face 发布了 GLM-5.3-Flash-REAP50-GGUF,这是对 zai-org/GLM-5.3-Flash 进行 50% 专家剪枝(321B 降至约 165B)后的 4-bit GGUF 量化版本,采用 REAP 显著性剪枝并做输出尺度校正。仓库当前仅含 v2 掩码权重,v3 采用 HOPE 交互感知方法但尚未上传 GGUF 且未做端到端评测。模型需使用打过补丁的 llama.cpp 才能加载,且因校准语料限制不适用于生物医学任务。
正文节选
--- license: mit base_model: - zai-org/GLM-5.3-Flash tags: - gguf - llama.cpp - reap - moe - pruned --- # GLM-5.3-Flash REAP-50 — GGUF 4-bit GGUF quantisations of a **50%-expert-pruned** GLM-5.3-Flash (321B → ~165B), built with [REAP](https://github.com/CerebrasResearch/reap) saliency pruning and a measured output-scale correction. ## Versions — which weights are which Three selection passes have been made (v1, v2, v3). Each is a **different mask**, not a re-run of the same one,