返回全部动态
NVIDIA 发布 GLM-5.2 NVFP4 量化模型
原标题:nvidia/GLM-5.2-NVFP4
AI 摘要
NVIDIA 发布了 GLM-5.2 的 NVFP4 量化版本,该模型基于 ZAI 的 GLM-5.2,采用 MoE 架构和稀疏注意力,支持长上下文。量化使用 NVIDIA Model Optimizer,支持 SGLang 和 vLLM 推理,专为 Blackwell 硬件优化。模型以 MIT 许可证发布,适用于商业和非商业用途。
以上摘要由 AI 生成,可能存在误差。事实请以原文为准。
正文节选
--- pipeline_tag: text-generation base_model: - zai-org/GLM-5.2 license: mit library_name: Model Optimizer tags: - nvidia - ModelOpt - GLM-5 - quantized - 4-bit precision - FP4 - fp4 --- # Model Overview ## Description: The NVIDIA GLM-5.2 NVFP4 model is the quantized version of ZAI’s GLM-5.2 model, which is an auto-regressive language model that uses an optimized transformer architecture. GLM-5.2 is a Mixture-of-Experts (MoE) model for reasoning and coding that uses sparse attention (with an I
发布时间:2026-08-31 23:59
抓取时间:2026-08-31 23:59
来源机构:Hugging Face