返回全部动态
mradermacher 发布 Lythri-4B-A2B 的 i1-GGUF 量化版本
原标题：mradermacher/Lythri-4B-A2B-i1-GGUF
AI 摘要
开发者 mradermacher 在 Hugging Face 上发布了 Lythri-4B-A2B 模型的 GGUF 量化版本（i1-GGUF），基于 Lythri/Lythri-4B-A2B 原始模型，采用加权/imatrix 量化方式，提供从 IQ1_S 到 Q6_K 的多种量化档位，面向情感支持、陪伴和端侧对话场景。该版本使用 Apache-2.0 许可，并提示这是视觉模型，mmproj 文件位于静态仓库中。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
--- base_model: Lythri/Lythri-4B-A2B language: - en library_name: transformers license: apache-2.0 mradermacher: readme_rev: 1 quantized_by: mradermacher tags: - emotional-support - companion - on-device - conversational - emotion - doi:10.5281/zenodo.23179311 --- ## About <!-- ### quantize_version: 2 --> <!-- ### output_tensor_quantised: 1 --> <!-- ### convert_type: hf --> <!-- ### vocab_type: --> <!-- ### tags: nicoboss --> <!-- ### quants: Q2_K IQ3_M Q4_K_S IQ3_XXS Q3_K_M small-IQ4_NL Q4
发布时间：2026-10-08 10:24
抓取时间：2026-10-07 09:57
来源机构：Hugging Face