返回全部动态
mradermacher 发布 Lythri-7B-A4B 的 i1-GGUF 量化版本
原标题：mradermacher/Lythri-7B-A4B-i1-GGUF
AI 摘要
开发者 mradermacher 在 Hugging Face 上发布了 Lythri-7B-A4B 模型的 i1-GGUF 量化版本，基于 Lythri/Lythri-7B-A4B 原始模型，采用 imatrix 加权量化，提供从 IQ1_S 到 Q6_K 的多种量化档位，面向情感支持、陪伴和端侧对话场景，采用 Apache-2.0 许可。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
--- base_model: Lythri/Lythri-7B-A4B language: - en library_name: transformers license: apache-2.0 mradermacher: readme_rev: 1 quantized_by: mradermacher tags: - emotional-support - companion - on-device - conversational - emotion - doi:10.5281/zenodo.23179311 --- ## About <!-- ### quantize_version: 2 --> <!-- ### output_tensor_quantised: 1 --> <!-- ### convert_type: hf --> <!-- ### vocab_type: --> <!-- ### tags: nicoboss --> <!-- ### quants: Q2_K IQ3_M Q4_K_S IQ3_XXS Q3_K_M small-IQ4_NL Q4
发布时间：2026-10-08 10:24
抓取时间：2026-10-07 09:57
来源机构：Hugging Face