llama.cpp b11723：Hexagon FLASH_ATTN_EXT 长上下文与 SWA 优化

AI 摘要

llama.cpp 发布 b11723 版本，主要针对 Hexagon 后端（高通 NPU）的 FLASH_ATTN_EXT 进行改进，以支持更长上下文和 SWA（滑动窗口注意力）模型。改动包括支持掩码块跳过以减少 DMA 数据搬运、微调 hmx 到 hvx 的切换阈值（提升 gemma-4 表现），以及更新 hmx 门控以考虑 mdev.count。该版本同时提供 macOS、Linux、Windows、Android 等多平台及多种后端（CUDA、Vulkan、ROCm、SYCL、OpenVINO 等）的预编译包。

正文节选

<details open> hexagon: FLASH_ATTN_EXT improvements for longer context and SWA models (#30731) * hex-fa: support for masked block skipping to reduce DMA fetching * hex-fa: finetuning the hmx->hvx crossover thresholds (boosting gemma-4) * hex-fa: update hmx gate to account for mdev.count </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/57234765> **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://github.com/ggml-org/l

发布时间：2026-10-19 10:06

抓取时间：2026-10-19 10:42

来源机构：ggml-org