返回全部动态
llama.cpp b11279 新增 GLM-5.3-Flash 支持
原标题:b11279
AI 摘要
llama.cpp 发布 b11279 版本,新增对 GLM-5.3-Flash(GLM5-Next)模型的支持,包含 MTP、多流、稀疏 FA 等优化,并修复了 k-pool 布局、状态回滚、GPU 图重分配等多个缺陷。该更新由社区贡献者提交,部分修复由 Claude Opus 5 和 Codex 辅助完成。
以上摘要由 AI 生成,可能存在误差。事实请以原文为准。
正文节选
<details open> add GLM-5.3-Flash (GLM5-Next) support (#27773) * Rebase GLM-Next support onto master, and migrate to llama-memory-hybrid-idx * Add initial MTP support * Merge branch optimizations. Reduce allocated compute buffer size, speed up long context decode, fla, and slight MTP improvements. * Review driven changes, remove env vars, protect tensors * Strip MTP for initial PR * Clean up after mtp strip * Clean up after mtp strip * Update speculative.cpp * Update llama-context.h *
发布时间:2026-09-30 18:58
抓取时间:2026-09-30 19:12
来源机构:ggml-org