返回全部动态
llama.cpp b10677 修复 Vulkan 视图别名依赖问题
原标题:b10677
AI 摘要
llama.cpp 发布 b10677 版本,修复了 Vulkan 后端在 ggml_vk_graph_optimize 中缺失视图别名依赖的问题。该问题导致在 AMD 和 NVIDIA Vulkan 上运行 Qwen3.8 等模型时,出现贪婪解码输出错误、每次服务器启动结果不同以及投机解码接受无效等异常。修复通过比较视图源基址并排除无操作节点来确保依赖正确性,CUDA 后端不受影响。
以上摘要由 AI 生成,可能存在误差。事实请以原文为准。
正文节选
<details open> vulkan: fix missing view-alias dependencies in ggml_vk_graph_optimize (#27812) * vulkan: fix missing view-alias dependencies in ggml_vk_graph_optimize is_src_of doesn't treat two views of one tensor as dependent, so the optimizer reorders nodes across aliased reads and writes. Result: silently wrong tokens under greedy decoding, different output on every server start, and invalid speculative-decoding acceptance, with nothing logged. Hits Qwen3.8's recurrent state (and an
发布时间:2026-08-29 02:27
抓取时间:2026-08-29 03:09
来源机构:ggml-org