返回全部动态

ggml-org 发布 Qwen3.6-35B-A3B GGUF 量化版

原标题:ggml-org/Qwen3.6-35B-A3B-GGUF

Hugging Face New and Trending Models一手来源开源质量 54

AI 摘要

ggml-org 在 Hugging Face 发布了 Qwen3.6-35B-A3B 的 GGUF 量化版本,基于 Qwen/Qwen3.6-35B-A3B 及 z-lab 的 DFlash 版本自动转换而来,采用 Apache-2.0 许可,支持 image-text-to-text 任务。用户可通过 Llama 应用或命令行 llama serve 直接加载运行。该发布降低了这一多模态模型在本地部署和推理上的门槛。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

--- license: apache-2.0 pipeline_tag: image-text-to-text tags: - gguf - quantized base_model: - Qwen/Qwen3.6-35B-A3B --- # Qwen3.6-35B-A3B Run it in the Llama app: https://llama.app Or from the terminal: ```bash llama serve -hf ggml-org/Qwen3.6-35B-A3B-GGUF ``` ### Source models - https://huggingface.co/Qwen/Qwen3.6-35B-A3B - https://huggingface.co/z-lab/Qwen3.6-35B-A3B-DFlash ### TODOs - add info > [!IMPORTANT] > This model is automatically converted using https://github.com/ggml-org/co


发布时间:2026-11-08 12:19
抓取时间:2026-11-08 12:23
来源机构:Hugging Face
阅读原文huggingface.co