MiniCPM-V 4.7 1B 发布 GPTQ 量化版
原标题：openbmb/MiniCPM-V-4.7-1B-GPTQ
AI 摘要
OpenBMB 在 Hugging Face 发布 MiniCPM-V 4.7 1B 的 GPTQ（W4A16）量化版本，基于 Apache-2.0 许可，面向端侧多模态推理。该模型采用视觉编码器内早期压缩与 4x/16x 混合视觉 token 压缩，支持 iOS、Android、HarmonyOS 及多家芯片平台，并兼容 SGLang、vLLM、llama.cpp、Ollama 等推理框架。官方称其在 Instruct 模式下整体得分与推理效率均显著优于 Qwen3.5 0.8B。
正文节选
--- license: apache-2.0 pipeline_tag: image-text-to-text tags: - minicpm-v - multimodal - On-Device Model - lightweight - quantized library_name: transformers base_model: openbmb/MiniCPM-V-4.7-1B base_model_relation: quantized --- > **This repository hosts the GPTQ (W4A16, AutoGPTQ) quantized version of [MiniCPM-V 4.7 1B](https://huggingface.co/openbmb/MiniCPM-V-4.7-1B).** For the original BF16 weights and the full model card, please refer to [openbmb/MiniCPM-V-4.7-1B](https://huggingface.co/op