返回全部动态
ggml-org 发布 vllm-d3-nano 的 GGUF 量化决策模型
原标题：ggml-org/vllm-d3-nano-GGUF
AI 摘要
ggml-org 在 Hugging Face 发布了 vllm-d3-nano-GGUF，这是将 vllm-sr/d3-nano 基础模型自动转换得到的 GGUF 量化版本，采用 Apache-2.0 许可，pipeline 标签为 image-text-to-text。该模型被定位为决策模型，需通过 llama.cpp 的 /v1/systemone API 调用，并可在 Llama 应用中运行。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
--- license: apache-2.0 pipeline_tag: image-text-to-text tags: - gguf - quantized - decision-model base_model: - vllm-sr/d3-nano --- # vllm-d3-nano Run it in the Llama app: https://llama.app Or from the terminal: ```bash llama serve -hf ggml-org/vllm-d3-nano-GGUF ``` This is a decision model, to be used via `/v1/systemone` API. See https://github.com/ggml-org/llama.cpp/pull/30383 ### Source models - https://huggingface.co/vllm-sr/d3-nano > [!IMPORTANT] > This model is automatically conver
发布时间：2026-11-09 05:11
抓取时间：2026-11-09 05:14
来源机构：Hugging Face