返回全部动态
Ling-3.0-tiny 模型发布 GGUF 量化版本
原标题：NANI-Nithin/Ling-3.0-tiny-GGUF
AI 摘要
NANI-Nithin 发布了 inclusionAI/Ling-3.0-tiny 模型的 GGUF 量化版本，提供多种 K-quant 和 IQ 量化文件，适用于 llama.cpp 运行时。该模型采用 BailingMoeV3 混合架构，需要特定运行时支持。量化版本旨在平衡模型大小、速度和输出质量，方便本地部署。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
--- language: - en license: apache-2.0 base_model: inclusionAI/Ling-3.0-tiny tags: - gguf - llama.cpp - quantized - moe - bailingmoev3 - hybrid-model - local-llm - text-generation pipeline_tag: text-generation --- # Ling-3.0-tiny-GGUF GGUF quantizations of [inclusionAI/Ling-3.0-tiny](https://huggingface.co/inclusionAI/Ling-3.0-tiny), converted for use with compatible `llama.cpp`-based runtimes. This repository includes a complete selection of standard K-quants and importance-matrix (IQ) quant
发布时间：2026-09-05 15:05
抓取时间：2026-09-05 15:07
来源机构：Hugging Face