返回全部动态

llama.cpp b11330 为 Qwen4Exp 添加 MTP 支持

原标题:b11330

llama.cpp Releases一手来源开源质量 63

AI 摘要

llama.cpp 发布 b11330 版本,主要变更是为 Qwen4Exp 添加 MTP(多 token 预测)支持,由 Georgi Gerganov 等人提交(PR #29761)。改动包括移除 has_state 成员、通过 ctx_bufs 非空判断状态、统一命名并清理循环记忆相关代码与注释。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译二进制包。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

<details open> Qwen4Exp: add MTP (#29761) * Qwen4Exp: add MTP * remove has_state member, check via ctx_bufs being non-empty * consistent naming + less verbose comments * cont : clean-up recurrent memory * cont : clean-up comments --------- Co-authored-by: Georgi Gerganov <ggerganov@gmail.com> </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/52003136> **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://github.com/


发布时间:2026-10-02 08:19
抓取时间:2026-10-02 08:39
来源机构:ggml-org
阅读原文github.com