返回全部动态

llama.cpp b11620:修复 OpenCL q8_0 dp4a 与 Adreno 支持

原标题:b11620

llama.cpp Releases一手来源开源质量 65

AI 摘要

llama.cpp 发布 b11620 版本,主要修复 OpenCL 后端中 q8_0 dp4a 的 mul_mat_id 计算问题,并针对 Adreno GPU 将 PREC_F32 的 mul_mat_id 标记为不支持。该更新由高通工程师参与贡献,同时附带各平台预编译二进制文件。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

<details open> opencl: fix q8_0 dp4a mul_mat_id and mark PREC_F32 mul_mat_id unsupported for adreno (#30365) * opencl: fix min handling for moe q8_0 dp4a GEMM Co-authored-by: Hongqiang Wang <wangh@qti.qualcomm.com> * opencl: reject PREC_F32 MUL_MAT_ID for adreno --------- Co-authored-by: Hongqiang Wang <wangh@qti.qualcomm.com> </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/55962868> **macOS/iOS:** - [macOS Apple Sil


发布时间:2026-10-15 02:44
抓取时间:2026-10-15 02:54
来源机构:ggml-org
阅读原文github.com