返回全部动态

llama.cpp b12187:WebGPU 新增 group norm 算子

原标题:b12187

llama.cpp Releases一手来源开源质量 63

AI 摘要

llama.cpp 发布 b12187 版本,主要变更为在 WebGPU 后端实现 group norm(分组归一化)算子,包括新增 WebGPU 专用 CI 工作流、参数化数据类型、二维工作组调度以及 group_norm 性能测试。该版本同时提供覆盖 macOS、iOS、Linux、Android、Windows 的多平台预编译包,涵盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。此次更新提升了 WebGPU 后端对归一化算子的支持,有助于在浏览器及跨平台 GPU 环境中更完整地运行模型推理。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

<details open> webgpu : Implement group norm kernel (#31490) * Only run webgpu CI on my fork * Add webgpu only workflow * Add WebGPU group_norm kernel * clean up * resolve merge conflicts * parameterize data type; clean up cmake changes * add nullptr check * clean up webkit experiments * more cleanup * more cleanup * clang format * Remove unused feature check for WebGPU * clean up supports_op condition and update documentation * add perf tests for group_norm * clean up doc with


发布时间:2026-11-07 19:42
抓取时间:2026-11-07 20:14
来源机构:ggml-org
阅读原文github.com