返回全部动态

llama.cpp b11077:修复 router 模式 API 密钥转发导致的 401 问题

原标题:b11077

llama.cpp Releases一手来源开源质量 61

AI 摘要

llama.cpp 发布 b11077 版本,修复了 router 模式下的 API 密钥认证问题。此前 unset_reserved_args() 未清除 LLAMA_ARG_API_KEY_FILE,导致通过 --api-key-file 传入的密钥被转发给 router 派生的子实例,使使用 --api-key 的客户端在 chat completions 上收到 401,同时 router 内部无认证头的调用(如 POST /v1/streams/lookup、DELETE /v1/stream)也被拒绝。修复后不再向子实例传递 API 密钥,保证 router 接受的所有密钥端到端可用,并避免内部流调用返回 401。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

<details open> server : do not forward --api-key-file to router-spawned child instances (#28938) In router mode, authentication belongs to the router. unset_reserved_args() already unset LLAMA_API_KEY, but did not unset LLAMA_ARG_API_KEY_FILE. When --api-key-file was passed, children re-validated against file keys only, causing clients using --api-key to 401 on chat completions (#28820). In addition, router internal calls without auth headers (such as POST /v1/streams/lookup and DELETE /v1/str


发布时间:2026-09-22 02:11
抓取时间:2026-09-22 02:39
来源机构:ggml-org
阅读原文github.com