ggml-org 发布 vllm-d3-lite GGUF 量化决策模型
原标题：ggml-org/vllm-d3-lite-GGUF
AI 摘要
ggml-org 在 Hugging Face 发布了 vllm-d3-lite-GGUF，这是对 vllm-sr/d3-lite 的 GGUF 量化转换版本，采用 apache-2.0 许可，pipeline_tag 为 image-text-to-text。该模型被定位为决策模型，需通过 llama.cpp 的 /v1/systemone API 使用，并可在 Llama 应用中运行或通过 llama serve 命令启动。模型由 ggml-org/convert 工具自动转换生成。
正文节选
--- license: apache-2.0 pipeline_tag: image-text-to-text tags: - gguf - quantized - decision-model base_model: - vllm-sr/d3-lite --- # vllm-d3-lite Run it in the Llama app: https://llama.app Or from the terminal: ```bash llama serve -hf ggml-org/vllm-d3-lite-GGUF ``` This is a decision model, to be used via `/v1/systemone` API. See https://github.com/ggml-org/llama.cpp/pull/30383 ### Source models - https://huggingface.co/vllm-sr/d3-lite > [!IMPORTANT] > This model is automatically conver