返回全部动态
llama.cpp 发布 b11180：修复 RPC 分配缓存键
原标题：b11180
AI 摘要
llama.cpp 发布 b11180 版本，主要修复了 RPC 后端中 get_alloc_size 缓存键未包含 nb 参数的问题，并将计算结果下限设为 ggml_nbytes。该改动由 Georgi Gerganov 等人提交，旨在提升 RPC 内存分配计算的正确性。同时发布了覆盖 macOS、Linux、Windows、Android 等多平台及 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端的预编译二进制包。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
<details open> rpc: include nb in the get_alloc_size cache key and floor the result at ggml_nbytes (#29283) * rpc : include nb in the get_alloc_size cache key and floor the result at ggml_nbytes * cont : remove redundant comment * cont : add TODO --------- Co-authored-by: Georgi Gerganov <ggerganov@gmail.com> </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/50207987> **macOS/iOS:** - [macOS Apple Silicon (arm64)](http
发布时间：2026-09-25 22:57
抓取时间：2026-09-25 23:06
来源机构：ggml-org