返回全部动态
ggml-org 发布 gemma-4-12B-it GGUF 量化版
原标题：ggml-org/gemma-4-12B-it-GGUF
AI 摘要
ggml-org 在 Hugging Face 发布了 gemma-4-12B-it-GGUF，这是对 Google gemma-4-12B-it 的 GGUF 量化版本，采用 Apache-2.0 许可，支持 any-to-any 任务。该模型可通过 Llama 应用或命令行 llama serve 直接运行，页面说明其由 ggml-org/convert 工具自动转换生成，并列出多个源模型。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
--- license: apache-2.0 pipeline_tag: any-to-any tags: - gguf - quantized base_model: - google/gemma-4-12B-it --- # gemma-4-12B-it Run it in the Llama app: https://llama.app Or from the terminal: ```bash llama serve -hf ggml-org/gemma-4-12B-it-GGUF ``` ### Source models - https://huggingface.co/google/gemma-4-12B-it - https://huggingface.co/google/gemma-4-12B-it-assistant - https://huggingface.co/google/gemma-4-12B-it-qat-q4_0-unquantized-assistant - https://huggingface.co/google/gemma-4-12
发布时间：2026-11-01 11:54
抓取时间：2026-10-19 18:58
来源机构：Hugging Face