返回全部动态
llama.cpp b11748:修复 SYCL 重排量化权重 get_rows
原标题:b11748
AI 摘要
llama.cpp 发布 b11748 版本,主要修复了 SYCL 后端在重排量化权重上 get_rows 的问题(PR #30430)。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。此次更新属于推理框架的常规缺陷修复与构建发布,对使用 SYCL 后端的量化模型推理稳定性有直接影响。
以上摘要由 AI 生成,可能存在误差。事实请以原文为准。
正文节选
<details open> sycl : fix get_rows on reordered quantized weights (#30430) Co-authored-by: Sam <sam@garagellm.tail7dd858.ts.net> </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/57598742> **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://github.com/ggml-org/llama.cpp/releases/download/b11748/llama-b11748-bin-macos-arm64.tar.gz) - macOS Apple Silicon (arm64, KleidiAI enabled) [DISABLED](https://github.com/ggml-org/lla
发布时间:2026-10-20 08:23
抓取时间:2026-10-20 08:42
来源机构:ggml-org