返回全部动态
Ling-3.0-tiny 去审查 APEX 量化版发布
原标题:SC117/Ling-3.0-tiny-abliterated-APEX-GGUF
AI 摘要
SC117 发布了 inclusionAI/Ling-3.0-tiny 模型的 abliterated APEX GGUF 量化版本,通过 abliterix 技术移除拒绝方向,将拒绝率从 98% 降至 15%,同时使用 APEX 混合精度量化技术,在更小体积下达到甚至超越 Q8_0 的困惑度。该模型为 7.9B 总参数、1.3B 激活参数的混合推理 MoE 模型,适合本地部署。
以上摘要由 AI 生成,可能存在误差。事实请以原文为准。
正文节选
--- library_name: llama.cpp license: mit license_link: https://huggingface.co/inclusionAI/Ling-3.0-tiny/blob/main/LICENSE pipeline_tag: text-generation tags: - bailing-moe - ling - abliterated - uncensored - decensored - apex - quantization - imatrix - gguf base_model: - inclusionAI/Ling-3.0-tiny --- <div style="font-family: -apple-system, BlinkMacSystemFont, 'Segoe UI', Roboto, sans-serif; margin-bottom: 24px;"> <div style="background: #f5f5f7; border-radius: 20px; padding: 36px 32px; margin-bo
发布时间:2026-08-19 20:02
抓取时间:2026-08-19 20:02
来源机构:Hugging Face