返回全部动态
llama.cpp b11564：Vulkan 优化 CM2 量化块大小
原标题：b11564
AI 摘要
llama.cpp 发布 b11564 版本，主要针对 Vulkan 后端进行优化：为 CM2 量化块大小做专门处理，并改用三元表达式避免 switch 语句降级，以提升 CM2 matmul 性能。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译二进制，覆盖 CUDA、ROCm、Vulkan、SYCL、OpenVINO 等后端。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
<details open> vulkan: use ternary expressions to avoid switch lowering for CM2 quant block size (#30164) * vulkan: specialize quant block size for CM2 matmul * vulkan: use ternary expressions to avoid switch lowering for CM2 quant block size * vulkan: clarify CM2 quant block size comment </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/54952894> **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://github.com/ggml-org
发布时间：2026-10-12 14:56
抓取时间：2026-10-12 15:01
来源机构：ggml-org