llama.cpp b11078:新增采样参数环境变量配置
原标题:b11078
AI 摘要
llama.cpp 发布 b11078 版本,新增通过 LLAMA_ARG_* 环境变量配置 temperature、top-p、min-p 及各类惩罚参数的能力,使 llama-server 可完全通过环境文件(如 Debian 上的 systemd)控制。同时使用 llama-gen-docs 重新生成 readme 文件,并提供了覆盖 macOS、Linux、Windows、Android 等多平台与多种后端(CUDA、Vulkan、ROCm、SYCL、OpenVINO 等)的预编译二进制包。
正文节选
<details open> args: add env vars for temperature, top-p, min-p and penalties (#27380) Allow configuring --temp, --top-p, --min-p, --repeat-penalty, --presence-penalty and --frequency-penalty via LLAMA_ARG_* so llama-server can be fully controlled from an EnvironmentFile (e.g. systemd on Debian). Use `llama-gen-docs` to regenerate the readme files. </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/49020823> **macOS/iOS:**