返回全部动态

llama.cpp b10839 修复 Vulkan GET_ROWS 偏移崩溃

原标题:b10839

llama.cpp Releases一手来源产品发布质量 78

AI 摘要

llama.cpp 发布 b10839 版本,主要修复 Vulkan 后端中 GET_ROWS 操作在张量偏移未对齐时导致的崩溃问题,该问题影响 Qwen3-TTS 和 Qwen3-VL 等模型。修复包括在量化路径中正确应用偏移、调整缓冲区绑定和 push constants 传递,并新增后端测试覆盖。所有 223 个 GET_ROWS 测试在 Vulkan 上通过。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

<details open> vulkan: support type-aligned GET_ROWS (#28253) * vulkan: fall back to CPU for GET_ROWS with misaligned offsets The Vulkan GET_ROWS shader asserts when a tensor's backing-buffer offset plus view_offs is misaligned w.r.t. minStorageBufferOffsetAlignment (see init_pushconst_tensor_offsets). Previously this caused a hard crash on models using ggml_view + ggml_get_rows (e.g. Qwen3-TTS, Qwen3-VL). Return false from supports_op() in the misaligned case so the scheduler falls back to


发布时间:2026-09-07 19:14
抓取时间:2026-09-07 19:53
来源机构:ggml-org
阅读原文github.com