返回全部动态
llama.cpp b10681 发布:修复 Vulkan mul_mat_id 填充问题
原标题:b10681
AI 摘要
llama.cpp 发布 b10681 版本,主要修复了 Vulkan 后端中 mul_mat_id 操作的填充问题,将填充从 N 改为 K,以避免越界访问。该版本提供了适用于 macOS、Linux、Windows、Android 等多个平台的预编译二进制文件,并支持多种后端如 CUDA、ROCm、Vulkan、OpenVINO 等。
以上摘要由 AI 生成,可能存在误差。事实请以原文为准。
正文节选
<details open> vulkan: Change mul_mat_id to pad K rather than N (#27925) The N padding is needed for mul_mat, but not mul_mat_id. For mul_mat_id, we indirect the row index through a shared memory lookup table which avoids any OOB row coordinate. But that callback doesn't bounds check K, so we actually need K padding instead. </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/43857046> **macOS/iOS:** - [macOS Apple Silicon (
发布时间:2026-08-29 22:34
抓取时间:2026-08-29 23:05
来源机构:ggml-org