返回全部动态
llama.cpp 发布 b12072：移除注意力掩码冗余 cnv
原标题：b12072
AI 摘要
llama.cpp 发布 b12072 版本，核心改动是移除 llm_attn_mask 中冗余的 cnv，将 dspark 块掩码改为在输入填充阶段由 llm_attn_mask::block_uniform 生成，从而消除 dflash 中的图级 reshape/repeat 操作。该版本同时提供 macOS、Linux、Windows、Android 等多平台、多后端（CUDA、Vulkan、ROCm、SYCL、OpenVINO 等）的预编译二进制。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
<details open> llama : drop the redundant cnv from llm_attn_mask (#31558) The dspark block mask is now derived at input-fill time: llm_attn_mask::block_uniform fills every token of a sequence with the mask row of its first token, so the graph-level reshape/repeat in dflash is gone and cnv always aliases raw. Assisted-by: dsh:llama.cpp/ggml-org/GLM-5.3-Flash-GGUF (Mac Studio, M5 Ultra, 256GB) </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llam
发布时间：2026-11-03 22:58
抓取时间：2026-11-03 23:08
来源机构：ggml-org