返回全部动态
llama.cpp b11439：重构选择性专家复制到用户代码
原标题：b11439
AI 摘要
llama.cpp 发布 b11439 版本，主要变更是将 ggml 中的选择性专家复制（selective expert copying）逻辑重构到用户代码中，并改进 ggml-backend.h 注释。测试方面将两个模型纳入选择性专家复制测试，并使用 deepseek2 作为测试模型。该改动由 Georgi Gerganov 等人参与，属于 MoE 推理路径的底层重构。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
<details open> ggml: refactor selective expert copying to user code (#29943) * ggml: refactor selective expert copying to user code * tests: enroll two models into selective expert copy test * tests: use deepseek2 as test model * improve comment in ggml-backend.h Co-authored-by: Georgi Gerganov <ggerganov@gmail.com> * cont: fix whitespace * cont : better comments Co-authored-by: Georgi Gerganov <ggerganov@gmail.com> --------- Co-authored-by: Georgi Gerganov <ggerganov@gmail.com> </de
发布时间：2026-10-06 20:41
抓取时间：2026-10-06 21:05
来源机构：ggml-org