返回全部动态
SoAI 发布 Qwen3.5-9B GGUF 量化版
原标题：SoAIHQ/Qwen3.5-9B-GGUF
AI 摘要
SoAI 在 Hugging Face 上发布了 Qwen3.5-9B 的 GGUF 量化版本，面向 llama.cpp 与 SoAI 使用。该模型为 9B 稠密架构，支持图像输入、思考模式与工具调用，上下文达 256K，提供 Q4_K_M 与 Q8_0 两种量化文件及图像投影附加文件。Q4_K_M 使用基于真实聊天、代码与工具调用语料校准的 imatrix 量化，便于在单张消费级 GPU 上本地部署。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
--- base_model: Qwen/Qwen3.5-9B base_model_relation: quantized quantized_by: SoAI license: apache-2.0 license_link: https://huggingface.co/Qwen/Qwen3.5-9B/blob/main/LICENSE pipeline_tag: image-text-to-text tags: - gguf - llama.cpp - imatrix - soai - multimodal --- <div align="center"> <a href="https://soai.to"><picture> <source media="(prefers-color-scheme: dark)" srcset="https://huggingface.co/SoAIHQ/Qwen3.5-9B-GGUF/resolve/main/soai-logo-dark.png"> <img alt="SoAI" src="https://huggingfac
发布时间：2026-10-24 22:24
抓取时间：2026-10-24 22:26
来源机构：Hugging Face