返回全部动态
llama.cpp 发布 b10951:优化 llama_decode 调用时机
原标题:b10951
AI 摘要
llama.cpp 发布 b10951 版本,其中一项改动是将 llama_n_rs_seq 检查移到 llama_decode 调用之前,若检查为真则直接返回,从而在不需要时避免调用 llama_decode。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译二进制包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。
以上摘要由 AI 生成,可能存在误差。事实请以原文为准。
正文节选
<details open> common : move llama_n_rs_seq to before llama_decode (#28749) This commit moves the llama_n_rs_seq function call to before the llama_decode call and returns directly if the check is true, removing the setting of res and the goto statement. The motivation for this change is to avoid the llama_decode call if it is not needed. </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/47247883> **macOS/iOS:** - [macOS A
发布时间:2026-09-14 12:05
抓取时间:2026-09-14 12:21
来源机构:ggml-org