返回全部动态
llama.cpp b11765:移除 Kolibri-1 路由冗余精度覆盖
原标题:b11765
AI 摘要
llama.cpp 发布 b11765 版本,主要变更是移除 Kolibri-1 路由中多余的精度覆盖设置(ggml_prec_set_* 调用),因为路由 matmul 使用默认精度即可正常工作。该改动是 #30673 评审的后续修复,由 Sigbjørn Skjæret 参与合著,并同步提供 macOS、Linux、Windows、Android 等多平台预编译包。
以上摘要由 AI 生成,可能存在误差。事实请以原文为准。
正文节选
<details open> model : drop the redundant precision overrides in the Kolibri-1 router (#30865) * model : drop the redundant precision overrides in the Kolibri-1 router Follow-up to the review in #30673: the router matmul works with the default precision, so both ggml_prec_set_* calls can go away. Assisted-by: pi:llama.cpp/ggml-org/Qwen3.8-Flash-Next-GGUF (MacBook, M5 Max, 128GB) * cont : fix comment Co-authored-by: Sigbjørn Skjæret <sigbjorn.skjaeret@huggingface.co> --------- Co-authored
发布时间:2026-10-21 07:19
抓取时间:2026-10-21 07:51
来源机构:ggml-org