返回全部动态

llama.cpp b10681 发布:修复 Vulkan mul_mat_id 填充问题

原标题:b10681

llama.cpp Releases一手来源产品发布质量 72

AI 摘要

llama.cpp 发布 b10681 版本,主要修复了 Vulkan 后端中 mul_mat_id 操作的填充问题,将填充从 N 改为 K,以避免越界访问。该版本提供了适用于 macOS、Linux、Windows、Android 等多个平台的预编译二进制文件,并支持多种后端如 CUDA、ROCm、Vulkan、OpenVINO 等。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

<details open> vulkan: Change mul_mat_id to pad K rather than N (#27925) The N padding is needed for mul_mat, but not mul_mat_id. For mul_mat_id, we indirect the row index through a shared memory lookup table which avoids any OOB row coordinate. But that callback doesn't bounds check K, so we actually need K padding instead. </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/43857046> **macOS/iOS:** - [macOS Apple Silicon (


发布时间:2026-08-29 22:34
抓取时间:2026-08-29 23:05
来源机构:ggml-org
阅读原文github.com