返回全部动态
llama.cpp b11254 修复 ggml 图输入收集逻辑
原标题：b11254
AI 摘要
llama.cpp 发布 b11254 版本，修复了 ggml 中 graph_inputs 的收集逻辑。此前 graph_inputs 在图分割过程中填充，只包含被用作节点输入的张量，在流水线并行（n_copies > 1）下会导致图组成随批次输入变化而改变，进而引发后端 id 比较误报和调度器重复预留，甚至触发 GGML_SCHED_DEBUG_REALLOC 中止。修复方式是在分割后从图的所有输入叶子节点收集输入，使图组成仅取决于存在哪些输入而非使用了哪些输入。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
<details open> ggml : collect all input tensors into graph_inputs (#29634) graph_inputs was populated while splitting the graph, so it only contained the inputs that are used as srcs of some node. With pipeline parallelism (n_copies > 1), each graph input contributes n_copies leafs to graph_copy, so switching between batches that consume different inputs (e.g. token batches that do not use the embeddings input vs image batches that do) changed the graph composition. This shifted the input copi
发布时间：2026-09-29 19:18
抓取时间：2026-09-29 19:47
来源机构：ggml-org