Warmly 发布 Qwen3.5-2B 韩英 GGUF 生产模型
原标题:neureps/warmly-qwen35-2b-enko-gguf
AI 摘要
neureps 发布了 warmly-qwen35-2b-enko-gguf,这是离线 SNS 应用 Warmly 的生产模型仓库,基于 Qwen3.5-2B-enko 进行词汇剪枝和 GGUF 量化。仓库包含 base 版本和 distill-v1 版本,后者通过蒸馏提升了韩语自然性,并通过了官方门禁但尚未晋升。量化变体对比显示,IQ4_XS 结合领域 imatrix 是质量和大小的最佳平衡点,而低比特量化会导致质量崩溃。
正文节选
--- license: apache-2.0 base_model: - neureps/Qwen3.5-2B-enko language: - ko - en pipeline_tag: image-text-to-text tags: - gguf - llama.cpp - imatrix - korean - warmly --- # warmly-qwen35-2b-enko-gguf — Warmly 프로덕션 모델 (프루닝 2B GGUF) 오프라인 SNS 앱 [Warmly(온기)](https://github.com/neureps/warmly)의 **프로덕션 배포 리포**입니다. EN/KO 어휘 프루닝 마스터 [neureps/Qwen3.5-2B-enko](https://huggingface.co/neureps/Qwen3.5-2B-enko)를 llama.cpp로 양자화했습니다. Android 앱(내장 llama-server)이 루트의 배포 파일을 직접 다운로드합니다. ## 버전 이력 | 버전 | 날짜 | 텍