返回全部动态
llama.cpp b12233:支持外部 PLE 文件加载
原标题:b12233
AI 摘要
llama.cpp 发布 b12233 版本,新增外部 PLE 文件加载功能:模型加载器可将 --ple 作为 --shard 的别名,支持逗号分隔的多个分片路径并复用多分片加载路径,同时移除原有的 ple_path、path_ple 等独立接口。该改动让 PLE 分片可覆盖张量,并让 --fit 与路由内存测量加载全部分片,同时提供各平台预编译二进制。
以上摘要由 AI 生成,可能存在误差。事实请以原文为准。
正文节选
<details open> feat: external PLE file loading (#31185) * model : allow loading external PLE files Assisted-by: Codex * convert : add separate PLE exports Assisted-by: Codex * tests : fix PLE export test lint Assisted-by: Codex * model : make --ple an alias of --shard, allow multiple shard locations Reuse the multi-shard loading path for external PLE files instead of a separate option. * --ple is an alias of --shard: both take a comma separated list and may be given more than once, a
发布时间:2026-11-10 03:15
抓取时间:2026-11-10 03:19
来源机构:ggml-org