返回全部动态

GLM-5.3-Flash 50%专家剪枝版GGUF发布

原标题:patrickbdevaney/GLM-5.3-Flash-REAP50-GGUF

Hugging Face New and Trending Models一手来源开源质量 80

AI 摘要

开发者 patrickbdevaney 在 Hugging Face 发布了 GLM-5.3-Flash-REAP50-GGUF,这是对 zai-org/GLM-5.3-Flash 进行 50% 专家剪枝(321B 降至约 165B)后的 4-bit GGUF 量化版本,采用 REAP 显著性剪枝并做输出尺度校正。仓库当前仅含 v2 掩码权重,v3 采用 HOPE 交互感知方法但尚未上传 GGUF 且未做端到端评测。模型需使用打过补丁的 llama.cpp 才能加载,且因校准语料限制不适用于生物医学任务。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

--- license: mit base_model: - zai-org/GLM-5.3-Flash tags: - gguf - llama.cpp - reap - moe - pruned --- # GLM-5.3-Flash REAP-50 — GGUF 4-bit GGUF quantisations of a **50%-expert-pruned** GLM-5.3-Flash (321B → ~165B), built with [REAP](https://github.com/CerebrasResearch/reap) saliency pruning and a measured output-scale correction. ## Versions — which weights are which Three selection passes have been made (v1, v2, v3). Each is a **different mask**, not a re-run of the same one,


发布时间:2026-10-12 11:28
抓取时间:2026-10-12 11:29
来源机构:Hugging Face
阅读原文huggingface.co