返回全部动态

GLM-5.3-Flash 精简版适配 DGX Spark

原标题:autotrust/GLM5.3-Flash-E224-DGX-Spark

Hugging Face New and Trending Models一手来源模型发布质量 74

AI 摘要

Hugging Face 用户 autotrust 发布了 GLM-5.3-Flash-E224-DGX-Spark,这是 zai-org/GLM-5.3-Flash 的非官方量化衍生版本,通过神经架构搜索将每层路由专家从 288 个裁剪到 224 个,并采用 NVFP4 格式,权重降至 141 GiB,使其可在两台 ConnectX-7 互联的 NVIDIA DGX Spark 或单张 B200/GB200 上运行。模型保留完整词表和视觉塔,并附带 BF16 与 NVFP4 两种 MTP 投机解码草稿,在 B200 上单流解码约提速 1.85 倍。基准测试显示其在 GPQA-Diamond 和 AIME 2025 上与 288 专家参考版本基本持平。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

--- license: mit base_model: zai-org/GLM-5.3-Flash base_model_relation: quantized pipeline_tag: image-text-to-text library_name: vllm language: - en - zh tags: - autotrust - glm5_next - moe - nvfp4 - modelopt - vllm - dgx-spark - gb10 - blackwell - neural-architecture-search - mtp - speculative-decoding --- # GLM5.3-Flash-E224-DGX-Spark **autotrust/GLM5.3-Flash-E224-DGX-Spark is a compact build of [zai-org/GLM-5.3-Flash](https://huggingface.co/zai-org/GLM-5.3-Flash) for desktop Blackwell syste


发布时间:2026-10-10 11:35
抓取时间:2026-10-09 17:53
来源机构:Hugging Face
阅读原文huggingface.co