llama.cpp b11928 新增 MiniCPM-OCR-Jev 支持
原标题:b11928
AI 摘要
llama.cpp 发布 b11928 版本,新增对 MiniCPM-OCR-Jev 模型的支持。该模型以 Qwen3.5-VL 为骨干,通过末位 token 的 value head 对 OCR 文本与渲染图像进行打分,而非生成文本,新增 openbmb-minicpm-ocr-jev 决策类型并由 POST /v1/systemone 提供服务。由于 checkpoint 不含 LM head,文本生成请求会被拒绝;同时保留预处理器配置中每图最多 16384 个合并 token 的图像预算。
正文节选
<details open> model: Add MiniCPM-OCR-Jev (#30980) * model : add MiniCPM-OCR-Jev support The model is a Qwen3.5-VL trunk with a value head read at the last token: it scores an OCR text against an image rendered from it, it does not generate. Add the openbmb-minicpm-ocr-jev decision type, served by POST /v1/systemone. The class scores are the pooled output of the sequence, read with last pooling, so the conversion turns score.weight into cls.output and sets embedding_length_out. The checkpoin