返回全部动态
llama.cpp b12249:ggml-rpc 连接失败不再崩溃
原标题:b12249
AI 摘要
llama.cpp 发布 b12249 版本,修复 ggml-rpc 在端点不可达或 HELLO 握手失败时直接 GGML_ABORT 终止整个进程的问题,改为 start() 返回 bool、get_dispatcher() 返回 nullptr 并让各调用方按保守行为处理。该问题源于 Android 上 llama.rn 手机 RPC 集群中不可达 worker 导致应用崩溃,同时新增了针对不可达端点的回归测试。
以上摘要由 AI 生成,可能存在误差。事实请以原文为准。
正文节选
<details open> ggml-rpc : fail gracefully on unreachable endpoints and failed handshakes (#30415) * ggml-rpc: fail gracefully on unreachable endpoints and failed handshakes rpc_dispatcher::start() aborted the whole process (GGML_ABORT -> SIGABRT) when the endpoint could not be parsed, the transport failed to initialise, the socket could not connect, or the HELLO handshake failed. A typo in --rpc or a temporarily down node killed the host application, and the reason went to a log stream the ho
发布时间:2026-11-11 00:57
抓取时间:2026-11-11 01:49
来源机构:ggml-org