Clover-35B-A3B-Preview 扩散模型 GGUF 量化版发布
原标题:maternion/Clover-35B-A3B-Preview-GGUF
AI 摘要
Hugging Face 用户 maternion 将 DiffuSpace 的 Clover-35B-A3B-Preview 模型转换为 GGUF 格式并发布,提供 Q8_0 至 Q3_K_S 共六种量化版本。该模型是 35B 参数、每 token 约 3B 激活参数的混合专家扩散语言模型,支持 128K 上下文,需 llama.cpp 主线 commit e4b6c8ca6 及之后版本才能加载。此举降低了该扩散模型在本地消费级硬件上的部署门槛。
正文节选
--- license: apache-2.0 base_model: Diffuspace/Clover-35B-A3B-Preview base_model_relation: quantized quantized_by: maternion pipeline_tag: text-generation library_name: gguf tags: - gguf - llama.cpp - clover - clover_moe - mixture-of-experts - diffusion - text-generation - conversational - custom-code --- # Clover-35B-A3B-Preview GGUF GGUF conversion of [Diffuspace/Clover-35B-A3B-Preview](https://huggingface.co/Diffuspace/Clover-35B-A3B-Preview). All credit for the model goes to Diffuspace; th