返回全部动态

llama.cpp b10273 发布:调整采样器默认上下文长度

原标题:b10273

llama.cpp Releases一手来源产品发布质量 67

AI 摘要

llama.cpp 发布 b10273 版本,主要更新是移除了基于历史采样器中的“全上下文窗口”功能,将默认上下文长度从 -1 解析为 1024 而非完整上下文长度,并为历史采样器设置共享默认值 64。该版本提供了多平台预编译二进制文件,包括 macOS、Linux、Windows、Android 等,并支持多种后端如 CUDA、Vulkan、ROCm 等。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

<details open> sampler : remove "full-context windows" from history-based samplers (#26524) * Resolve -1 to 1024 instead of ctx-len for samplers Because of backend-sampling we initialize samplers before the complete llama_context is there. Therefore, we cannot infer the resolved context length yet at the time we construct the samplers. * Shared default of 64 for history-based samplers, remove context_size </details> **Website:** - <https://llama.app> **macOS/iOS:** - [macOS Apple Silicon


发布时间:2026-08-05 04:31
抓取时间:2026-08-05 05:23
来源机构:ggml-org
阅读原文github.com