返回全部动态

llama.cpp b11122:SYCL 扩展 MMVQ GLU 融合并新增算子融合

原标题:b11122

llama.cpp Releases一手来源开源质量 69

AI 摘要

llama.cpp 发布 b11122 版本,主要更新为 SYCL 后端扩展 MMVQ GLU 融合,支持混合量化类型,并新增 rms_norm+scale 与 ssm_conv+silu 融合。同时提供覆盖 macOS、Linux、Windows、Android 等多平台多后端的预编译二进制包。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

<details open> sycl: extend MMVQ GLU fusion, add rms_norm+scale and ssm_conv+silu fusions (#28931) * sycl : extend MMVQ GLU fusion to mixed quant types; add rms_norm+scale and ssm_conv+silu fusions * fixing spacing issue and macro converted to template function </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/49468532> **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://github.com/ggml-org/llama.cpp/releases/download/


发布时间:2026-09-23 16:33
抓取时间:2026-09-23 17:08
来源机构:ggml-org
阅读原文github.com