返回全部动态
MiniCPM-o 2.6 推出 int4 量化版，手机端运行多模态模型
原标题：openbmb/MiniCPM-o-2_6-int4
AI 摘要
OpenBMB 发布了 MiniCPM-o 2.6 的 int4 量化版本，该版本通过 AutoGPTQ 量化技术将 GPU 内存占用降至约 9GB，使 GPT-4o 级别的多模态大模型（支持视觉、语音、实时语音对话等）能够在手机上运行。用户需从特定分支安装 AutoGPTQ 并使用 AutoGPTQForCausalLM 加载模型。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
--- base_model: - openbmb/MiniCPM-o-2_6 datasets: - openbmb/RLAIF-V-Dataset language: - multilingual library_name: transformers pipeline_tag: any-to-any tags: - minicpm-o - omni - vision - ocr - multi-image - video - custom_code - audio - speech - voice cloning - live Streaming - realtime speech conversation - asr - tts license: apache-2.0 --- <h1>A GPT-4o Level MLLM for Vision, Speech and Multimodal Live Streaming on Your Phone</h1> [GitHub](https://github.com/OpenBMB/MiniCPM-o) | <a href="h
发布时间：2026-08-18 11:51
抓取时间：2026-08-18 11:55
来源机构：Hugging Face