返回全部动态
llama.cpp b10519 发布：重构睡眠处理并支持睡眠期间访问指标
原标题：b10519
AI 摘要
llama.cpp 发布 b10519 版本，主要重构了服务器端的睡眠处理逻辑，允许在睡眠期间访问 /metrics 端点，并添加了缓存响应、拆分指标与槽位任务等改进。该版本提供了适用于 macOS、Linux、Windows、Android 等多个平台的预编译二进制文件。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
<details open> server: refactor sleep handling, allow access /metrics during sleep (#27376) * add cached responses * refactor on_sleeping_state * allow accessing metrics during sleep * metrics task should not reset timer * updated docs * fix * fix get_res_model_info * add test * fix a race condition * split metrics and slots tasks / results * should_reset_buckets </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/4
发布时间：2026-08-21 04:31
抓取时间：2026-08-21 05:35
来源机构：ggml-org