返回全部动态
llama.cpp b10871 发布：Vulkan 专用 iq4_xs 着色器提升性能
原标题：b10871
AI 摘要
llama.cpp 发布 b10871 版本，新增了针对 Vulkan 后端的专用 iq4_xs 矩阵向量着色器，替代了通用回退实现，在 RDNA4 上使 token 生成速度提升约 6-17%。该版本还移除了一个无效的实验性分支，并提供了适用于 macOS、Linux、Windows、Android 等平台的多种二进制下载。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
<details open> vulkan: add dedicated iq4_xs mat-vec shader (#28426) * vulkan: add dedicated iq4_xs mat-vec shader Dedicated mul_mat_vec_iq4_xs for the dmmv path, replacing the generic fallback. ~+6-17% token generation on RDNA4 depending on model. Assisted-by: Pi agent with Qwen3.8 27B * vulkan iq4_xs: remove dead n_it unroll branch Remove the n_it <= 8 experimental branch that attempted to fully unroll the block loop. Since n_it is a runtime value, [[unroll]] is ignored by the compiler, m
发布时间：2026-09-09 15:17
抓取时间：2026-09-09 15:55
来源机构：ggml-org