返回全部动态
llama.cpp b11709 新增 Kolibri-1 模型支持
原标题：b11709
AI 摘要
llama.cpp 发布 b11709 版本，新增对 Aleph-Alpha 的 Kolibri-1 模型支持。Kolibri-1 是德英双语 MoE 推理模型，78B 参数、每 token 激活 3.46B，采用滑动窗口与全注意力交错、GQA 及专家偏置路由等结构。转换器复用 AfmoeModel 处理专家布局，FP8 检查点走通用路径，并注册了架构测试。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
<details open> model : add Kolibri-1 (Aleph-Alpha) support (#30673) * model : add Kolibri-1 (Aleph-Alpha) support Kolibri-1 is a bilingual German/English MoE reasoning model with 78B parameters and 3.46B active per token: 50 layers, 384 routed experts plus one shared expert. Attention interleaves four sliding layers at a 513 window with one full layer. The sliding layers rotate with NeoX RoPE, the full layers are NoPE. GQA runs 48 query heads against 4 KV heads at head_dim 128 with a QK-RMSN
发布时间：2026-10-17 20:28
抓取时间：2026-10-17 21:05
来源机构：ggml-org