返回主题地图

NVIDIA 英伟达

公司与模型 · 英伟达的 AI 芯片与生态动态：GPU 新品、CUDA 生态、机器人平台与 AI 算力供给

关联由结构化实体与正文位置共同判定 · 最近刷新 2026-11-11 07:16

顺带提及正文出现过，但不是文章的主要讨论对象，当前共 676 条。
10月3日周六 · 3 条
正文顺带提及命中实体：nvidia
llama.cpp Releases一手来源开源

llama.cpp b11368：为 draft 与 MTP 推测解码加入概率采样

llama.cpp 发布 b11368 版本，为简单 draft 与 MTP 推测解码引入概率采样，使 drafter 采用概率采样、target 通过拒绝采样进行验证。该改动在语法约束请求下回退到 argmax 采样，并新增默认关闭（greedy）的开关以启用概率 draft 采样，同时修复了 draft sampler 与 target 共享 rng 流

正文顺带提及命中实体：cuda
llama.cpp Releases一手来源开源

llama.cpp b11365 修复 soft max back 别名输出错误

llama.cpp 发布 b11365 版本，修复了 ggml-cpu 后端中 GGML OP SOFT MAX BACK 算子在 dst 与 src1 别名（aliasing）时输出错误的问题。原实现分多步计算，当 dst 覆盖 y 后第三步会读取被覆盖的值导致静默错误；新实现改为单个融合循环，先读取两个源再写入，兼容两种别名情况，并新增回归测试强制触发别

正文顺带提及命中实体：cuda
10月2日周五 · 12 条
正文顺带提及命中实体：cuda
llama.cpp Releases一手来源开源

llama.cpp 发布 b11349：Vulkan 编译问题新增日志

llama.cpp 发布 b11349 版本，主要变更为在 Vulkan 后端为 pipeline 编译问题添加日志输出（#29794）。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译二进制包，覆盖 CPU、CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。此次更新属于常规构建发布，主要提升

正文顺带提及命中实体：cuda
llama.cpp Releases一手来源开源

llama.cpp 发布 b11346：修复 qwen4exp 测试

llama.cpp 发布 b11346 版本，主要修复了 qwen4exp 相关的测试（PR #29819）。该版本同步提供 macOS/iOS、Linux、Android、Windows 及 openEuler 等多平台预编译二进制包，覆盖 CPU、CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后端。

正文顺带提及命中实体：cuda
llama.cpp Releases一手来源开源

llama.cpp 发布 b11342：修复符号链接缓存目录创建问题

llama.cpp 发布 b11342 版本，主要修复了在存在缺陷的 libstdc++ 环境下通过符号链接创建缓存目录的问题（对应 GCC bug 101510），由 Adrien Gallouët 提交。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译二进制包，涵盖 CUDA、Vulkan、ROCm、SYCL、Ope

正文顺带提及命中实体：cuda
llama.cpp Releases一手来源开源

llama.cpp b11337 发布：无效 embedding 请求返回 HTTP 400

llama.cpp 发布 b11337 版本，主要变更是其 server 组件对无效的 embedding 请求返回 HTTP 400 状态码。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 等多平台的预编译二进制包，支持 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后端。

正文顺带提及命中实体：cuda
llama.cpp Releases一手来源开源

llama.cpp b11333：WebGPU 新增 bfloat16 支持

llama.cpp 发布 b11333 版本，主要变更为在 WebGPU 后端为 MUL MAT、MUL MAT ID 和 GET ROWS 算子增加 bfloat16 支持。该版本同时提供 macOS、Linux、Windows、Android 等多平台及 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后端的预编译二进制包。

正文顺带提及命中实体：nvidia
SGLang Releases一手来源开源

SGLang v0.5.21 发布：新增多模型支持与性能优化

SGLang 发布 v0.5.21 版本，包含来自 227 位贡献者的 779 个 PR。新增 DeepSeek-V4.1 Flash、GigaChat 3.5、MiMo-V2.6、DiffusionGemma、Qwen-Image 2.1 等十余个模型支持，并引入 PD 实例动态切换、Rust 前缀缓存、Decisions API 与 Score API

正文顺带提及命中实体：cuda
llama.cpp Releases一手来源开源

llama.cpp 发布 b11327：mtmd 限制非因果模型 max image

llama.cpp 发布 b11327 版本，主要变更是 mtmd 模块对非因果模型将 max image 限制为 ubatch（PR #29773）。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译二进制包，覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。

正文顺带提及命中实体：cuda
llama.cpp Releases一手来源开源

llama.cpp 发布 b11325：优化 jinja 循环作用域处理

llama.cpp 发布 b11325 版本，主要改动为 jinja 模板处理：除非循环过滤器需要，否则跳过复制循环作用域（PR #29776）。该版本同时提供 macOS/iOS、Linux、Android、Windows、openEuler 等多平台预编译二进制包，覆盖 CPU、CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。

正文顺带提及命中实体：cuda
llama.cpp Releases一手来源开源

llama.cpp b11324：llama-mmap 借助 direct-io 避免张量重复副本

llama.cpp 发布 b11324 版本，主要变更是 llama-mmap 在使用 direct-io 时避免为每个张量创建第二份完整大小的副本，从而降低内存占用。该改动由 NVIDIA 工程师参与贡献，并借助 Claude 辅助完成。版本同时提供 macOS、Linux、Windows、Android 等多平台预编译包。

正文顺带提及命中实体：cuda
llama.cpp Releases一手来源开源

llama.cpp 发布 b11323：修复 HIP 后端 CDNA 误判问题

llama.cpp 发布 b11323 版本，主要修复了 HIP 后端在 fattn mma dqk 576 场景下将 CDNA 误判为 dgx spark 以处理 gqa ratio 20 的问题。该版本同时提供覆盖 macOS、iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包，支持 CUDA、ROCm、V

正文顺带提及命中实体：nvidia
Hugging Face New and Trending Models一手来源模型发布

CMSManhattan 发布 JiRack Ultra 7B CPU 三元量化模型

CMSManhattan 在 Hugging Face 发布 JiRack Ultra 7B（CPU）模型，基于 DeepSeek R1-7B 架构并引入 BitNet 风格的三元（1.58bit）量化，面向 CPU 推理优化。模型更新了分词器，新增 Routing、Media、Vision、Sound、Tool call、Robotics 等标签，并提供

正文顺带提及命中实体：cuda
llama.cpp Releases一手来源开源

llama.cpp 发布 b11322：修复 hex-workqueue 竞态条件

llama.cpp 发布 b11322 版本，主要修复了 hex-workqueue 中 seqn 与 idx read/write 不同步的竞态条件问题（PR #29785）。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包，支持 CUDA、Vulkan、ROCm、SYCL、

10月1日周四 · 5 条
正文顺带提及命中实体：cuda
llama.cpp Releases一手来源开源

llama.cpp b11321 发布：补充 AOCL-BLAS 构建文档

llama.cpp 发布 b11321 版本，主要变更是为 BLAS 后端补充 AOCL-BLAS 的构建文档，将设备标签标注为 AOCL-BLAS，并新增 AOCL-BLAS 快速入门指南、移除固定版本路径，同时补充了关于 ZenDNN 的说明。该版本照例提供 macOS/iOS、Linux、Android、Windows 等多平台多后端（CUDA、Vul

正文顺带提及命中实体：cuda
llama.cpp Releases一手来源开源

llama.cpp b11316：Metal 后端 mxfp4 矩阵乘法改用 bf16 计算

llama.cpp 发布 b11316 版本，主要变更是 Metal 后端在 mxfp4 矩阵乘法中使用 bf16 数学计算（PR #29770）。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制，包含 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后端。

正文顺带提及命中实体：cuda
llama.cpp Releases一手来源开源

llama.cpp 发布 b11312：修复 WebGPU SSM SCAN 绑定别名

llama.cpp 发布 b11312 版本，主要修复了 WebGPU 后端中 SSM SCAN 的绑定别名问题（#29750）。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译二进制包，覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后端。

正文顺带提及命中实体：cuda
llama.cpp Releases一手来源开源

llama.cpp 发布 b11311：ggml-opencl 用 std::vector 替换 alloca()

llama.cpp 发布 b11311 版本，主要变更是将 ggml-opencl 后端中的 alloca() 替换为 std::vector，由 Adrien Gallouët 提交。该版本同时提供覆盖 macOS、iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包，支持 CUDA、Vulkan、ROCm、S

正文顺带提及命中实体：cuda
llama.cpp Releases一手来源开源

llama.cpp 发布 b11308：修复 CLI 下载 mmproj 参数

llama.cpp 发布 b11308 版本，修复了命令行下载 mmproj 参数的问题，并为此新增了参数解析测试。该版本同时提供覆盖 macOS、iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包，支持 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后端。