返回全部动态
DeepSeek-Coder-V2-Lite-Instruct-abliterated 发布 GGUF 量化版
原标题：mradermacher/DeepSeek-Coder-V2-Lite-Instruct-abliterated-GGUF
AI 摘要
mradermacher 发布了 DeepSeek-Coder-V2-Lite-Instruct-abliterated 模型的 GGUF 量化版本，该模型基于 criscar22 的 abliterated 版本。提供了从 Q2_K 到 Q8_0 的多种量化格式，并推荐 Q4_K_M 和 Q8_0 等。这些量化文件便于在本地部署，降低了运行门槛。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
--- base_model: criscar22/DeepSeek-Coder-V2-Lite-Instruct-abliterated language: - en library_name: transformers mradermacher: readme_rev: 1 quantized_by: mradermacher --- ## About <!-- ### quantize_version: 2 --> <!-- ### output_tensor_quantised: 1 --> <!-- ### convert_type: hf --> <!-- ### vocab_type: --> <!-- ### tags: --> <!-- ### quants: x-f16 Q4_K_S Q2_K Q8_0 Q6_K Q3_K_M Q3_K_S Q3_K_L Q4_K_M Q5_K_S Q5_K_M IQ4_XS --> <!-- ### quants_skip: --> <!-- ### skip_mmproj: --> static quants o
发布时间：2026-09-02 18:59
抓取时间：2026-09-02 19:01
来源机构：Hugging Face