返回全部动态
llama.cpp b10514 新增 Granite SWA 模型支持
原标题：b10514
AI 摘要
llama.cpp 发布 b10514 版本，新增对 GraniteSWAForCausalLM 和 GraniteMoeSWAForCausalLM 模型架构的转换与推理支持，包括滑动窗口注意力模式、逐层 RoPE 判定及 MoE 参数处理。该更新由 IBM 的 Gabe Goodhart 主导，并借助 AI 辅助编码工具完成。此版本增强了 llama.cpp 对新型混合专家模型和滑动窗口注意力机制的支持。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
<details open> model : GraniteSWAForCausalLM / GraniteMoeSWAForCausalLM (#25505) * feat(convert): Add conversion for GraniteSWAForCausalLM Branch: GraniteSWAForCausalLM AI-usage: full (Bob, OpenCode + Qwen3.6-35b) Signed-off-by: Gabe Goodhart <ghart@us.ibm.com> * feat(llama): Add granite_swa support Branch: GraniteSWAForCausalLM AI-usage: full (Bob, OpenCode + Qwen3.6-35b) Signed-off-by: Gabe Goodhart <ghart@us.ibm.com> * feat(conversion): Add conversion infra for rope_pattern array NOTE:
发布时间：2026-08-20 19:17
抓取时间：2026-08-20 19:45
来源机构：ggml-org