返回全部动态
llama.cpp b10604 发布,新增 DeepSeek 4 张量并行支持
原标题:b10604
AI 摘要
llama.cpp 发布 b10604 版本,主要新增对 DeepSeek 4 的 tensor 并行支持,包括共享专家延迟 allreduce 等优化。该版本提供多平台二进制文件,涵盖 macOS、Linux、Windows、Android 等,并支持多种硬件后端。
以上摘要由 AI 生成,可能存在误差。事实请以原文为准。
正文节选
<details open> Deepseek 4: `-sm tensor` (#26490) * DSV4: sm tensor * set coarser granularity for head splits * fix dspark * add model saving for dsv4 + allow dflash to return on specific device * add comment about dsv4 seq_rm * simplify * add shared expert delayed allreduce * remove special test for dsv4 </details> **Website:** - <https://llama.app> **Attestations:** - <https://github.com/ggml-org/llama.cpp/attestations/42515961> **macOS/iOS:** - [macOS Apple Silicon (arm64)](https:
发布时间:2026-08-24 15:17
抓取时间:2026-08-24 15:22
来源机构:ggml-org