返回全部动态
llama.cpp b11857:ggml 支持 MUL_MAT_ID -1 索引跳过计算
原标题:b11857
AI 摘要
llama.cpp 发布 b11857 版本,核心变更是 ggml 允许 MUL_MAT_ID 使用 -1 索引来跳过计算,并同步更新了 Vulkan、WebGPU、CUDA、OpenVINO 等后端实现(本 PR 暂排除 CUDA)。该版本同时提供 macOS、Linux、Windows、Android 等多平台多后端的预编译二进制包。
以上摘要由 AI 生成,可能存在误差。事实请以原文为准。
正文节选
<details open> ggml : allow MUL_MAT_ID -1 index to skip the computation (#26631) * ggml : allow MUL_MAT_ID -1 index to skip the computation * nits * update vulkan code * ggml-webgpu: ensure all threads reach workgroup barriers in mul_mat_id_vec (cherry picked from commit d8a4b9efb6e2b9abf3a866e847756b7e6bbc6b69) * fix cuda * openvino * exclude CUDA from this PR * add TODO tag --------- Co-authored-by: yomaytk <yoshimura.masashi.frbs@gmail.com> </details> **Website:** - <https://lla
发布时间:2026-10-25 02:20
抓取时间:2026-10-25 02:50
来源机构:ggml-org