GLM-5.3-Flash 发布 EXL3/TR3 4bpw 量化检查点

AI 摘要

开发者 brandonmusic 在 Hugging Face 发布了 GLM-5.3-Flash 的 EXL3/TR3 4bpw 量化检查点，基于 zai-org/GLM-5.3-Flash-BF16，面向 SM120 双 GPU 环境。该版本提供多模态 DFlash2、纯文本 DFlash2 和纯文本 MTP3 三种 vLLM 服务配置，并附带可复现的 R10 编码器闭包与量化保真度测量（平均 KLD 约 0.0246）。它使用自定义 vLLM/B12X 构建，不兼容上游标准 vLLM。

正文节选

--- base_model: zai-org/GLM-5.3-Flash-BF16 library_name: transformers pipeline_tag: image-text-to-text license: other license_name: shapleymcg-license-1.0 license_link: https://github.com/brandonmmusic-max/shapleymcg/blob/main/LICENSE tags: - glm - exl3 - tr3 - vllm - sm120 - nvfp4 - dflash2 - multimodal - shapleymcg model-index: - name: GLM-5.3-Flash-tr3-4bpw results: - task: type: text-generation name: Distribution fidelity (KL divergence vs BF

发布时间：2026-09-10 21:33

抓取时间：2026-09-10 21:34

来源机构：Hugging Face