Qwen3.6-35B-A3B 的 MLX 混合精度量化版发布
原标题：Jundot/Qwen3.6-35B-A3B-oQ4e-mtp
AI 摘要
开发者 Jundot 在 Hugging Face 发布了 Qwen3.6-35B-A3B 的 MLX 混合精度量化版本 Qwen3.6-35B-A3B-oQ4e-mtp，使用 oMLX v0.7.3.dev1 的 oQ 方法按层敏感度分配 4/5/6/8 位与 BF16 精度，完整检查点平均约 4.8 bits/weight，总存储约 20.09 GiB。该检查点包含语言主干、视觉编码器和多 token 预测（MTP）头，面向 Apple MLX 本地推理场景，并以 Apache-2.0 许可发布。
正文节选
--- library_name: mlx license: apache-2.0 base_model: Qwen/Qwen3.6-35B-A3B base_model_relation: quantized pipeline_tag: image-text-to-text tags: - mlx - oq - quantized - qwen3_5_moe - mtp --- # Qwen3.6-35B-A3B-oQ4e-mtp > [!NOTE] > **Updated 2026-10-25:** Re-quantized with Better Low-Bit oQ. Please re-download if you have an earlier copy. This model was quantized using [oQ](https://github.com/jundot/omlx) (oMLX v0.7.3.dev1) mixed-precision quantization with Better Low-Bit oQ ([jundot/omlx#4776