返回全部动态
llama.cpp b10246 发布：优化 OpenCL 大权重 GEMV 性能
原标题：b10246
AI 摘要
llama.cpp 发布 b10246 版本，主要修复了 OpenCL 后端中大型 q6_K 权重（如 gemma-4 E2B 的 lm_head）在 GEMV 计算中的性能问题，通过增加直接大小条件来避免维度条件不足导致的性能下降。该版本提供了适用于 macOS、Linux、Windows、Android 等多个平台的预编译二进制文件。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
<details open> opencl: route large q6_K lm_head to the flat GEMV (#26427) * add a direct size condition for `large` weights; the original dimension condition is insufficient -- q6_K lm_head for gemma-4 E2B has [1536, 262144], which is big enough to slowdown gemv_noshuffle but does not satisfy the dimension condition (ne0 >= 2048) </details> **Website:** - <https://llama.app> **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b10246/l
发布时间：2026-08-04 07:39
抓取时间：2026-08-04 08:39
来源机构：ggml-org