返回全部动态
llama.cpp 新增从 HF Hub 发现与下载模型功能
原标题:b11714
AI 摘要
llama.cpp 发布 b11714 版本,为其 UI 新增从 Hugging Face Hub 发现和下载模型的功能,并加入下载暂停、恢复、断点续传及草稿模型(sidecar)自动匹配下载等能力。该更新还引入 Enable Discover Models 开关,用于控制是否允许浏览和下载 HuggingFace GGUF 模型。这些改动提升了 llama.cpp 本地模型管理体验,并支持投机解码所需草稿模型的自动获取。
以上摘要由 AI 生成,可能存在误差。事实请以原文为准。
正文节选
<details open> ui : Discover & Download Models from HF Hub (#29584) * common : resolve <quant>-<sidecar> download tags and list cached sidecars A Q4_0-mtp style tag now resolves the sidecar file when no model file matches it, so a solo draft or mmproj download actually pulls the file. Cached sidecar files list as their own entries so the state survives a restart, and removing such a tag deletes only the sidecar. Assisted-by: pi:zai-org/GLM-5.3 * ui : optional sanitized raw HTML in markdown
发布时间:2026-10-18 00:17
抓取时间:2026-10-18 01:13
来源机构:ggml-org