返回全部动态

llama.cpp b11557:RPC 日志改为分级详细度并统一日志入口

原标题:b11557

llama.cpp Releases一手来源开源质量 69

AI 摘要

llama.cpp 发布 b11557 版本,主要改进 RPC 后端的日志系统。GGML_RPC_DEBUG 环境变量被改为数字化的详细级别(0 关闭,1-3 逐级增加输出),并新增共享 log.h 作为 RPC 日志的唯一入口,统一了客户端与服务端的日志宏。此外补充了握手、张量传输、图计算等环节的日志,并将远程分配失败、RDMA 回退 TCP 等降级事件提升为警告级别。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

<details open> rpc : turn GGML_RPC_DEBUG into a verbosity level and add logs (#29544) * rpc : turn GGML_RPC_DEBUG into a verbosity level and add logs GGML_RPC_DEBUG is now parsed as a number: 0/unset disables debug logs, 1-3 emit increasingly detailed output (events, per-command trace, transport detail). Non-numeric values fall back to 1. The duplicated env/macro blocks in ggml-rpc.cpp and transport.cpp are replaced by a shared log.h, which becomes the single choke point for all logging of t


发布时间:2026-10-11 23:10
抓取时间:2026-10-11 23:59
来源机构:ggml-org
阅读原文github.com