返回全部动态

neureps 发布 0.8B 端侧多模态 GGUF 模型

原标题:neureps/warmly-qwen35-08b-enko-gguf

Hugging Face New and Trending Models一手来源模型发布质量 83

AI 摘要

neureps 发布了 warmly-qwen35-08b-enko-gguf,这是一个基于 Qwen3.5-0.8B-enko 的 0.8B 端侧模型,采用剪枝和蒸馏技术,并以 GGUF 格式提供。该模型用于 Warmly 应用的小型设备部署,支持图像字幕和文本评论,总大小约 542MB。v3.1 版本包含蒸馏权重和 LoRA 人物适配器,通过 llama.cpp 加载,并可按请求切换人物。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

--- license: apache-2.0 base_model: - neureps/Qwen3.5-0.8B-enko language: - ko - en pipeline_tag: image-text-to-text tags: - gguf - llama.cpp - korean - warmly - lora --- # warmly-qwen35-08b-enko-gguf — 0.8B 온디바이스 소형 티어 (프루닝·증류 GGUF) EN/KO 어휘 프루닝 마스터 [neureps/Qwen3.5-0.8B-enko](https://huggingface.co/neureps/Qwen3.5-0.8B-enko) 기반. [Warmly(온기)](https://github.com/neureps/warmly) 앱의 **소형 티어(저·중램 기기)** 배포 모델이자 이미지 캡셔너를 담는다. 한 모델이 캡션(비전)과 댓글(텍스트)을 모두 낸다. ## ★ 현재 배포 — `v3.1/` (2026-07-23) **소형 티어


发布时间:2026-09-08 06:23
抓取时间:2026-09-08 06:26
来源机构:Hugging Face
阅读原文huggingface.co