返回全部动态
llama.cpp b12060 新增 Clover MoE 模型支持
原标题:b12060
AI 摘要
llama.cpp 发布 b12060 版本,新增对 Clover 模型的支持,包括仅自回归(AR-only)的 Clover MoE 支持、GGUF 转换、模型加载以及因果混合注意力,并复用共享注意力、循环状态、MoE 和 LoRA 辅助模块。该版本同时提供 macOS、Linux、Android、Windows 等多平台多后端的预编译二进制包。
以上摘要由 AI 生成,可能存在误差。事实请以原文为准。
正文节选
<details open> model: add Clover support (#31306) * model : add AR-only Clover MoE support Add GGUF conversion, model loading, and causal hybrid attention for Clover, reusing shared attention, recurrent-state, MoE, and LoRA helpers. * Update tests/test-llama-archs.cpp Co-authored-by: Sigbjørn Skjæret <sigbjorn.skjaeret@huggingface.co> * convert : filter Clover tensors using filter_tensors * clover : use the standard ssm_a tensor name --------- Co-authored-by: Sigbjørn Skjæret <sigbjorn.
发布时间:2026-11-03 07:00
抓取时间:2026-11-03 07:10
来源机构:ggml-org