返回全部动态

llama.cpp b11233:重构回滚测试并修复 Metal 图融合

原标题:b11233

llama.cpp Releases一手来源开源质量 66

AI 摘要

llama.cpp 发布 b11233 版本,主要重构了 test-recurrent-state-rollback 测试,改用 llama_context_ptr 并支持遍历所有 dummy 模型;同时修复 Metal 后端融合逻辑,允许 0 元素节点参与图打包以保持形状无关性,并放宽 split replay 的 nmse 阈值至 1e-4 以减少随机权重导致的测试抖动。该版本同步提供 macOS、Linux、Android 等多平台预编译二进制。

以上摘要由 AI 生成,可能存在误差。事实请以原文为准。

正文节选

<details open> tests : refactor test-recurrent-state-rollback (#29426) * tests : use llama_context_ptr in test-recurrent-state-rollback Replace raw llama_context pointers with llama_context_ptr and drop the manual llama_free calls and cleanup lambda. Assisted-by: pi:llama.cpp/MiMo-V2.6-Flash-RL * tests : run test-recurrent-state-rollback over all dummy models Add a --models DIR mode that mirrors test-save-load-state: iterate every dummy model, report PASS/FAIL/SKIP in a table and fail only


发布时间:2026-09-28 23:34
抓取时间:2026-09-28 23:56
来源机构:ggml-org
阅读原文github.com