返回全部动态

llama.cpp b10781 发布:修复 Vulkan FA dequant 路径

原标题:b10781

llama.cpp Releases一手来源产品发布质量 67

AI 摘要

llama.cpp 发布 b10781 版本,主要修复了 Vulkan 后端中 FA dequant 路径的启用条件问题,当 ne[3] == 1 时跳过 nb[3] 检查,避免缓存未满时路径未启用。该版本提供了适用于 macOS、Linux、Windows、Android 等多平台的预编译二进制文件,支持 CPU、Vulkan、CUDA、ROCm、OpenVINO、SYCL 等多种后端。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

<details open> vulkan: fix FA dequant path engagement (#28190) Skip the nb[3] check when ne[3] == 1, the shader never reads it for a single stream. Cache views carry the full-buffer stride there, so the old check reduced to n_kv == kv_size and the path only engaged with the cache full. </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/44953650> **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://github.com/ggml-org/llam


发布时间:2026-09-03 17:57
抓取时间:2026-09-03 18:45
来源机构:ggml-org
阅读原文github.com