返回全部动态
llama.cpp 发布 b11793:优化词表加载
原标题:b11793
AI 摘要
llama.cpp 发布 b11793 版本,核心变更是优化词表(vocabulary)加载流程,由 Georgi Gerganov 等人参与代码审查,并在 gguf_kv_to_str 中增加 reserve、修复尾随空格。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。此次更新属于推理框架的性能与工程质量改进,对本地大模型部署效率有正面影响。
以上摘要由 AI 生成,可能存在误差。事实请以原文为准。
正文节选
<details open> llama : optimize vocabulary loading (#30679) * llama : optimize vocabulary loading * Update src/unicode.h Co-authored-by: Georgi Gerganov <ggerganov@gmail.com> * CR : added reserve in gguf_kv_to_str * CR : trailing space fix --------- Co-authored-by: Georgi Gerganov <ggerganov@gmail.com> </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/58189832> **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://g
发布时间:2026-10-21 19:55
抓取时间:2026-10-21 20:54
来源机构:ggml-org