返回全部动态

llama.cpp b11454 新增 K2 Horizon 与 MoVA 支持

原标题:b11454

llama.cpp Releases一手来源开源质量 78

AI 摘要

llama.cpp 发布 b11454 版本,新增对 K2 Horizon 稠密模型与 MoVA 的支持,包含 GGUF 转换、张量加载、计算图、分词器与聊天模板等实现。同时修复了 K2-Horizon 预分词器在 MSVC 上因 std::regex 不支持 \p{...} 而无法加载 GGUF 的问题,并处理了 ZWNJ/ZWJ 分词、大小写折叠与空输入。此外还支持 K2 Horizon 的推理与工具调用、响应 schema 约束、YaRN beta 加载,并新增相关回归测试。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

<details open> model : add K2 Horizon dense and MoVA support (#29535) * model: K2 Horizon gguf conversion code * model: loading hparams and tensors in k2-horizon.cpp * model: K2 Horizon compute graph * model: K2 Horizon compute graph adjustment and registering tokenizers * model: K2 Horizon chat template and accomodate safetensors naming * unicode : add the K2-Horizon pre-tokenizer splitter The K2-Horizon regex had no arm in unicode_regex_split_custom and fell through to the general std:


发布时间:2026-10-07 04:20
抓取时间:2026-10-07 04:29
来源机构:ggml-org
阅读原文github.com