MiniCPM-OCR 1.0 DSpark 草稿模型 GGUF 版发布
原标题:openbmb/MiniCPM-OCR-1.0-DSpark-gguf
AI 摘要
OpenBMB 在 Hugging Face 发布 MiniCPM-OCR-1.0-DSpark 的 GGUF 版本,这是 MiniCPM-OCR 1.0 的 DSpark 草稿头(draft head),用于投机解码加速,并非独立 OCR 模型,需与主模型 checkpoint 及主模型的 mmproj 投影器配合使用。仓库提供 F16 到 Q4_0 共 11 种量化档位(0.209–0.606 GB),并给出 llama-cli 启用 --spec-type draft-dspark 的用法示例。该发布降低了在 llama.cpp 本地部署 OCR 推理加速的门槛。
正文节选
--- license: apache-2.0 language: - en - zh pipeline_tag: image-text-to-text library_name: llama.cpp tags: - minicpm-ocr - dspark - speculative-decoding - draft-model - gguf - llama.cpp - ocr base_model: openbmb/MiniCPM-OCR-1.0 base_model_relation: finetune --- <div align="center"> <p align="center"> <a href="https://github.com/OpenBMB/MiniCPM"><img src="https://raw.githubusercontent.com/OpenBMB/MiniCPM-OCR/main/assets/minicpm-ocr/minicpm-logo.jpg" width="300" alt="MiniCPM