Gemma-4-12B-HybridAgent 的 GGUF 量化版本发布
原标题:mradermacher/Gemma-4-12B-HybridAgent-i1-GGUF
AI 摘要
开发者 mradermacher 在 Hugging Face 发布了 Gemma-4-12B-HybridAgent 的 GGUF 量化版本,基于 milkshake721 的原始模型,使用 togethercomputer/HybridAgent-HybridSFT-v2 数据集微调。该模型支持中英文,具备视觉能力,并针对 agent 工具调用和潜在推理场景优化。发布提供了从 IQ1 到 Q6 的多种量化档位,方便本地部署。
正文节选
--- base_model: milkshake721/Gemma-4-12B-HybridAgent datasets: - togethercomputer/HybridAgent-HybridSFT-v2 language: - en - zh library_name: transformers license: gemma mradermacher: readme_rev: 1 quantized_by: mradermacher tags: - gemma-4 - gemma4 - hybrid-agent - latent-reasoning - tool-use - agent - full-fine-tuning - bf16 --- ## About <!-- ### quantize_version: 2 --> <!-- ### output_tensor_quantised: 1 --> <!-- ### convert_type: hf --> <!-- ### vocab_type: --> <!-- ### tags: nicoboss -->