返回全部动态
llama.cpp b10408 发布：新增 SYCL ESIMD Q3_K 内核
原标题：b10408
AI 摘要
llama.cpp 发布 b10408 版本，主要新增了 SYCL 后端下的 DMMV Q3_K ESIMD 内核，并重构了 ESIMD 内核以共享代码，默认启用 ESIMD（若可用）。该版本提供了适用于 macOS、Linux、Windows、Android 等平台的多种二进制包，但部分构建（如 macOS KleidiAI、ROCm 等）被禁用。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
<details open> sycl : Add DMMV ESIMD Q3_K kernel (#26251) * Add DMMV Q4_K and Q6_K ESIMD kernels Configure cmake build with -DGGML_SYCL_ESIMD=ON to enable. Signed-off-by: Todd Malsbary <todd.malsbary@intel.com> * Refactor ESIMD kernels to share common code Signed-off-by: Todd Malsbary <todd.malsbary@intel.com> * Move control of ESIMD from compile to runtime Signed-off-by: Todd Malsbary <todd.malsbary@intel.com> * Use ESIMD by default when available Signed-off-by: Todd Malsbary <todd.ma
发布时间：2026-08-13 22:30
抓取时间：2026-08-13 23:23
来源机构：ggml-org