ggml-org 发布 Nemotron-3.5-Super-VL-120B GGUF 量化版
原标题:ggml-org/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-GGUF
AI 摘要
ggml-org 在 Hugging Face 发布了 NVIDIA Nemotron-3.5-Super-VL-120B-A12B 的 GGUF 量化版本,该模型基于 NVIDIA 的 BF16 原版转换而来,属于图文到文本(image-text-to-text)多模态模型。用户可通过 Llama 应用或终端命令 llama serve 直接运行。该仓库由自动转换工具生成,页面信息尚不完整。
正文节选
--- license: other pipeline_tag: image-text-to-text tags: - gguf - quantized base_model: - nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16 --- # NVIDIA-Nemotron-3.5-Super-VL-120B-A12B Run it in the Llama app: https://llama.app Or from the terminal: ```bash llama serve -hf ggml-org/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-GGUF ``` ### Source models - https://huggingface.co/nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16 - https://huggingface.co/nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A1