MiniCPM-OCR 1.0 发布 GGUF 量化版
原标题:openbmb/MiniCPM-OCR-1.0-gguf
AI 摘要
OpenBMB 在 Hugging Face 发布 MiniCPM-OCR 1.0 的 GGUF 量化版本,基于 MiniCPM-V-4.6 量化而来,面向 llama.cpp 本地推理。该 1.3B 模型可解析中英文文档与 PDF 中的文本、表格、公式、图表和印章,并提供从 F16 到 Q4_0 的多种量化档位及配套视觉投影器。模型采用两阶段流水线:SDK 端用 PP-DocLayoutV3 做版面检测与裁剪,再通过 HTTP 调用 vLLM、SGLang、llama.cpp 或 Ollama 部署的识别服务组装为 Markdown/JSON。
正文节选
--- license: apache-2.0 language: - en - zh pipeline_tag: image-text-to-text library_name: minicpm-ocr tags: - minicpm-ocr - ocr - document-parsing - gguf - llama.cpp - multimodal - quantized base_model: - openbmb/MiniCPM-V-4.6 base_model_relation: quantized --- <div align="center"> <p align="center"> <a href="https://github.com/OpenBMB/MiniCPM"><img src="https://raw.githubusercontent.com/OpenBMB/MiniCPM-OCR/main/assets/minicpm-ocr/minicpm-logo.jpg" width="300" alt="MiniCPM logo"></a> </p>