返回全部动态
llama.cpp b11895:修复 Metal 大矩阵输出偏移溢出
原标题:b11895
AI 摘要
llama.cpp 发布 b11895 版本,主要修复 Metal 后端在大矩阵输出偏移场景下的整数溢出问题,并加宽了 batch 偏移与 MUL_MAT_ID token 索引的数据宽度。该改动由 Codex 辅助完成,属于底层推理引擎的稳定性修复,可避免 Apple 设备上大模型推理时因偏移溢出导致的错误。同时该版本照例提供覆盖 macOS、Linux、Windows、Android 等多平台多后端的预编译包。
以上摘要由 AI 生成,可能存在误差。事实请以原文为准。
正文节选
<details open> metal : stop overflow from happening in large matrix output offsets (#30072) * Metal : stop overflow from happening in large matrix output offsets Assisted-by: Codex * metal : widen batch offsets and MUL_MAT_ID token indices Assisted-by: Codex --------- Co-authored-by: feni6 <270037094+feni6@users.noreply.github.com> </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/59855190> **macOS/iOS:** - [macOS App
发布时间:2026-10-26 17:54
抓取时间:2026-10-26 18:16
来源机构:ggml-org