返回全部动态

llama.cpp b10677 修复 Vulkan 视图别名依赖问题

原标题:b10677

llama.cpp Releases一手来源产品发布质量 77

AI 摘要

llama.cpp 发布 b10677 版本,修复了 Vulkan 后端在 ggml_vk_graph_optimize 中缺失视图别名依赖的问题。该问题导致在 AMD 和 NVIDIA Vulkan 上运行 Qwen3.8 等模型时,出现贪婪解码输出错误、每次服务器启动结果不同以及投机解码接受无效等异常。修复通过比较视图源基址并排除无操作节点来确保依赖正确性,CUDA 后端不受影响。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

<details open> vulkan: fix missing view-alias dependencies in ggml_vk_graph_optimize (#27812) * vulkan: fix missing view-alias dependencies in ggml_vk_graph_optimize is_src_of doesn't treat two views of one tensor as dependent, so the optimizer reorders nodes across aliased reads and writes. Result: silently wrong tokens under greedy decoding, different output on every server start, and invalid speculative-decoding acceptance, with nothing logged. Hits Qwen3.8's recurrent state (and an


发布时间:2026-08-29 02:27
抓取时间:2026-08-29 03:09
来源机构:ggml-org
阅读原文github.com