返回全部动态
llama.cpp b11905：Vulkan 后端 RMS Norm 子组归约优化
原标题：b11905
AI 摘要
llama.cpp 发布 b11905 版本，主要变更是 Vulkan 后端利用 subgroup reductions 优化 RMS Norm 计算，并加入 AMD 厂商支持、快速路径跳过第二次 subgroupAdd、循环展开以及 128/256/512 块大小的非 subgroup 路径。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台多后端（CUDA、Vulkan、ROCm、SYCL、OpenVINO 等）的预编译二进制。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
<details open> vulkan: rms norm optimization using subgroup reductions (#29882) * RMS Norm Subgroup reductions optimizaton * Fix build error * Improved optimization * Make usage of BLOCK_SIZE consistent * Add fast path to skip 2nd subgroupAdd * Add AMD Vendor to subgroup reduction opt * Add comment clarifying rms_dict and merge_maps behavior * Add unroll * Rebase * Fixed syntax issue * Add 128/256/512 block sizes to non-subgroup path * Remove trailing whitespace </details> **Websi
发布时间：2026-10-27 03:08
抓取时间：2026-10-27 03:23
来源机构：ggml-org