OrcaRouter 发布 GLM-5.3-Flash 的 MLX 量化版本
原标题:orcarouter/GLM-5.3-Flash-MLX
AI 摘要
OrcaRouter 在 Hugging Face 发布了 GLM-5.3-Flash-MLX,这是智谱 zai-org/GLM-5.3-Flash 的 MLX 量化版本,面向 Apple Silicon 与 MLX CUDA 后端。原模型为 320B 总参数、18B 激活的 MoE,是 GLM-5 系列首个原生多模态模型,采用 glm5_next 混合架构。该版本提供 2bit-lite/2/3/4/6-bit 五档 OrcaSAQ 量化,敏感张量分配更高位宽,非 FP8 张量(线性注意力层、视觉塔等)保留 BF16。
正文节选
--- license: mit base_model: zai-org/GLM-5.3-Flash base_model_relation: quantized pipeline_tag: image-text-to-text library_name: mlx language: - en - zh tags: - glm - glm-5 - glm5_next - mlx - apple-silicon - quantized - 2-8bit - moe - vision-language - image-text-to-text - multimodal - orcasaq - dynamic-quant - reasoning --- <div align="center"> <a href="https://www.orcarouter.ai" target="_blank"> <img src="https://www.orcarouter.ai/orca-logo-classic.png" alt