llama.cpp b12187:WebGPU 新增 group norm 算子
原标题:b12187
AI 摘要
llama.cpp 发布 b12187 版本,主要变更为在 WebGPU 后端实现 group norm(分组归一化)算子,包括新增 WebGPU 专用 CI 工作流、参数化数据类型、二维工作组调度以及 group_norm 性能测试。该版本同时提供覆盖 macOS、iOS、Linux、Android、Windows 的多平台预编译包,涵盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。此次更新提升了 WebGPU 后端对归一化算子的支持,有助于在浏览器及跨平台 GPU 环境中更完整地运行模型推理。
正文节选
<details open> webgpu : Implement group norm kernel (#31490) * Only run webgpu CI on my fork * Add webgpu only workflow * Add WebGPU group_norm kernel * clean up * resolve merge conflicts * parameterize data type; clean up cmake changes * add nullptr check * clean up webkit experiments * more cleanup * more cleanup * clang format * Remove unused feature check for WebGPU * clean up supports_op condition and update documentation * add perf tests for group_norm * clean up doc with