llama.cpp b11436:修复 ggml-openvino CI 测试与 GPU 回归
原标题:b11436
AI 摘要
llama.cpp 发布 b11436 版本,主要修复 ggml-openvino 后端的 CI 测试与 GPU 回归问题。改动包括:仅从计算节点构建 OpenVINO 模型并支持同类型连续 DUP、使 inp_scale_rows 的 token 维度动态化、跳过 GPU 上未绑定 Q4_1/Q4_K 权重的 MUL_MAT 算子测试、按输出类型创建 FILL、拒绝量化类型的 CONCAT、处理 build_rs 的单一循环状态 gather,以及对齐 eltwise 操作数秩以规避 GPU 插件缺陷。此外还修复了 gemma-3 在 GPU 上有状态执行返回空答案的问题,并更新了 OpenVINO 已验证模型文档。
正文节选
<details open> ggml-openvino: fix CI tests; fix GPU regressions. (#30037) * ggml-openvino: skip unselected graph branches and support DUP Upstream #29622 adds a mixed token/embd branch to every input embedding graph through ggml_build_forward_select(). Its nodes are not flagged for compute, but the backend translated them anyway, and the DUP in that branch was unsupported, so the scheduler split the graph and passed the embeddings across the split with a fixed token count. The first single-to