返回全部动态
llama.cpp b12081：修复 CUDA Q8_1 量化校正求和
原标题：b12081
AI 摘要
llama.cpp 发布 b12081 版本，主要包含一项 CUDA 后端修复：针对 Q8_1 量化校正求和（correction sum）的潜在问题，并同步调整了 quantize_mmq_q8_1 的流程。该修复由社区贡献者与 NVIDIA 工程师共同评审完成，同时该版本照例提供 macOS、Linux、Windows、Android 等多平台预编译包。
以上摘要由 AI 生成，可能存在误差。事实请以原文为准。
正文节选
<details open> cuda: potential fix for Q8_1 correction sum (#31247) * cuda: potential fix for Q8_1 correction sum * Update ggml/src/ggml-cuda/quantize.cu Co-authored-by: Gaurav Garg <gaugarg@nvidia.com> * addressed review comment to change the quantize_mmq_q8_1 flow as well --------- Co-authored-by: Gaurav Garg <gaugarg@nvidia.com> </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/63333029> **macOS/iOS:** - [macOS App
发布时间：2026-11-04 06:47
抓取时间：2026-11-04 07:18
来源机构：ggml-org