rahul7star 发布 gemma-gguf 量化模型合集
原标题：rahul7star/gemma-gguf
AI 摘要
Hugging Face 用户 rahul7star 发布了一个名为 gemma-gguf 的 GGUF 量化模型合集，基于 google/gemma-4-E2B-it、gemma-4-12B-it 和 ornith-ai/Ornith-1.5-9B 等基础模型，主要以 Q6_K 量化为主，并提供了 Gradio 在线演示空间。该合集包含多个面向编码 Agent 的模型变体（如 Gemma 12B Fable Coder、OxCoder-9B、Ornith 系列），以及若干去审查（heretic/uncensored）版本，并附带了 Gemma 4 12B 模型 48 层结构、采样参数与量化级别的科普说明。
正文节选
--- datasets: - rahul7star/gemma4-opus-reasoning-12k base_model: - google/gemma-4-E2B-it - google/gemma-4-12B-it - ornith-ai/Ornith-1.5-9B --- All -i- are Q6 Qant bascially ## DEMO => TRY ALL MOLDELS HERE https://huggingface.co/spaces/rahul7star/Gguf-gradio OR https://huggingface.co/spaces/rahul7star/apex-gguf-1 ## UPDATE Gemma 12B FABLE CODER Addition gemma-4-12B-coder-fable5-composer2.5-v1.gguf - Python coder Agent | Model Range | Typical Role | | ---