mradermacher 发布 Qwen3.5-9B-Kimi-k3 蒸馏模型 GGUF 量化版
原标题：mradermacher/Qwen3.5-9B-Kimi-k3-Distilled-GGUF
AI 摘要
开发者 mradermacher 在 Hugging Face 上发布了 Qwen3.5-9B-Kimi-k3-Distilled 的 GGUF 量化版本，提供从 Q2_K 到 f16 的多种量化格式以及多模态补充文件。该模型基于 khazarai/Qwen3.5-9B-Kimi-k3-Distilled，使用 greghavens/kimi-k3-coding-and-debugging-traces 数据集，面向编码、推理和 agent 场景，采用 apache-2.0 许可。此举方便用户在本地以不同精度运行该蒸馏模型。
正文节选
--- base_model: khazarai/Qwen3.5-9B-Kimi-k3-Distilled datasets: - greghavens/kimi-k3-coding-and-debugging-traces language: - en library_name: transformers license: apache-2.0 mradermacher: readme_rev: 1 quantized_by: mradermacher tags: - text-generation-inference - transformers - unsloth - qwen3_5 - agent - reasoning - coding - kimi-k3 - distilled --- ## About <!-- ### quantize_version: 2 --> <!-- ### output_tensor_quantised: 1 --> <!-- ### convert_type: hf --> <!-- ### vocab_type: --> <!--