返回全部动态
llama.cpp b11909：Hexagon MUL_MAT_ID 跳行优化
原标题：b11909
AI 摘要
llama.cpp 发布 b11909 版本，主要针对 Hexagon NPU 后端优化 MUL_MAT_ID 的跳行（row skipping）处理，包括对跳过行的清零操作进行向量化，并在融合的 MM_ID_NX 路径中加入清零，同时移除标量除法。该版本同步提供 macOS、iOS、Linux、Android、Windows 等多平台预编译包，覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
<details open> hexagon: MUL_MAT_ID row skipping optimizations and improvements (#31169) * hex-mmid: vectorize skipped row zeroing and added zeroing to fused MM_ID_NX * hex-mmid: remove scalar div </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/60100504> **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b11909/llama-b11909-bin-macos-arm64.tar.gz) - macOS Apple Silicon
发布时间：2026-10-27 05:00
抓取时间：2026-10-27 05:19
来源机构：ggml-org