llama.cpp b11454 新增 K2 Horizon 与 MoVA 支持
原标题:b11454
AI 摘要
llama.cpp 发布 b11454 版本,新增对 K2 Horizon 稠密模型与 MoVA 的支持,包含 GGUF 转换、张量加载、计算图、分词器与聊天模板等实现。同时修复了 K2-Horizon 预分词器在 MSVC 上因 std::regex 不支持 \p{...} 而无法加载 GGUF 的问题,并处理了 ZWNJ/ZWJ 分词、大小写折叠与空输入。此外还支持 K2 Horizon 的推理与工具调用、响应 schema 约束、YaRN beta 加载,并新增相关回归测试。
正文节选
<details open> model : add K2 Horizon dense and MoVA support (#29535) * model: K2 Horizon gguf conversion code * model: loading hparams and tensors in k2-horizon.cpp * model: K2 Horizon compute graph * model: K2 Horizon compute graph adjustment and registering tokenizers * model: K2 Horizon chat template and accomodate safetensors naming * unicode : add the K2-Horizon pre-tokenizer splitter The K2-Horizon regex had no arm in unicode_regex_split_custom and fell through to the general std: