返回全部动态
llama.cpp b11702：为 Adreno X1 新增 MxFP4 MoE 内核
原标题：b11702
AI 摘要
llama.cpp 发布 b11702 版本，主要变更为在 OpenCL 后端为 Adreno X1 设备新增 MxFP4 MoE 二值化 GEMM 内核 gemm_moe_mxfp4_q8_1_dp4a_ila_ldck，并为 X1E 启用 dp4a CLC。该改动由高通工程师提交，旨在提升骁龙 X 系列平台上的 MoE 模型推理效率。版本同时提供 macOS、Linux、Windows、Android 等多平台预编译包。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
<details open> opencl: Add MxFP4 MoE bin kernel for Adreno X1 devices (#30691) * opencl: add bin kernel `gemm_moe_mxfp4_q8_1_dp4a_ila_ldck` for X1 * opencl: fix whitespace * opencl: undo unnecessary change * opencl: enable dp4a clc for X1E --------- Co-authored-by: Li He <lih@qti.qualcomm.com> </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/56851713> **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://github.com
发布时间：2026-10-17 08:21
抓取时间：2026-10-17 08:47
来源机构：ggml-org