返回全部动态

llama.cpp b10444 发布:支持 MTP 辅助模型加载

原标题:b10444

llama.cpp Releases一手来源产品发布质量 73

AI 摘要

llama.cpp 发布 b10444 版本,主要新增 --models-dir 选项以支持加载 MTP 辅助模型,并优化了预设检查逻辑。该版本提供了覆盖 macOS、Linux、Windows、Android 等多平台的预编译二进制文件,但部分平台构建(如 KleidiAI、ROCm、openEuler)被暂时禁用。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

<details open> common: support --models-dir loading MTP assistant models (#24431) * common: support --models-dir loading MTP assistant models * common: preset: check for MTP models with strict prefix * common: preset: Take advantage of PR #27005 * handle other draft types * drop eagle3 * clean up --------- Co-authored-by: Xuan Son Nguyen <son@huggingface.co> </details> **Website:** - <https://llama.app> **macOS/iOS:** - [macOS Apple Silicon (arm64)](https://github.com/ggml-org/llama.


发布时间:2026-08-16 02:42
抓取时间:2026-08-16 02:49
来源机构:ggml-org
阅读原文github.com