返回主题地图

NVIDIA 英伟达

公司与模型 · 英伟达的 AI 芯片与生态动态:GPU 新品、CUDA 生态、机器人平台与 AI 算力供给

关联由结构化实体与正文位置共同判定 · 最近刷新 2026-11-11 06:27

顺带提及正文出现过,但不是文章的主要讨论对象,当前共 675 条。
11月9日周一 · 7 条
正文顺带提及命中实体:cuda
llama.cpp Releases一手来源开源6

llama.cpp 发布 b12219:opencl 后端补充 climits 头文件

llama.cpp 发布构建版本 b12219,主要变更是 opencl 后端补充包含 climits 头文件(PR #31935)。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO、OpenCL Adreno 及 Snapdragon NPU

正文顺带提及命中实体:nvidia
雷峰网 AI科技评论商业3

蚂蚁灵波具身大模型挑战赛15强出炉,48小时真机决赛将启

首届蚂蚁灵波具身大模型挑战赛公布决赛名单,15支战队从全球1855支队伍中晋级,将于11月14日至15日在上海张江进行48小时真机黑客松,基于LingBot-VLA 2.0开源预训练模型和松灵COBOT MAGIC设备完成从数据采集到真机部署的全流程。赛事初赛GPU投入增至350张、累计超34万卡时,体现产业界对具身大模型的关注。11月16日蚂蚁灵波还将举办

正文顺带提及命中实体:cuda
llama.cpp Releases一手来源开源5

llama.cpp 发布 b12212:修复 ggml-zdnn 后端库检测

llama.cpp 发布构建版本 b12212,主要修复了 ggml-zdnn 后端发布二进制无法检测到后端库的问题(#31905),由 IBM 的 Aaron Teo 提交。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译包,涵盖 CUDA、Vulkan、ROCm、SYCL、Open

正文顺带提及命中实体:nvidia
Hugging Face New and Trending Models一手来源模型发布7

OTel-2.0-Decision-26B-A4B-4bit 量化决策模型发布

开发者 farbodtavakkoli 在 Hugging Face 发布了 OTel-2.0-Decision-26B-A4B-4bit,这是基于 Google Gemma 4 26B-A4B-it 的 4-bit W4A16 量化版本,面向分类、是/否问答和有序等级等类型化决策任务,通过读取答案标签概率而非生成文本给出结果。模型在 AMD MI350P

正文顺带提及命中实体:cuda
llama.cpp Releases一手来源开源3

llama.cpp b12211:mtmd 重构,移除 clip.h

llama.cpp 发布 b12211 版本,主要变更是对 mtmd(多模态)模块进行重构:移除 clip.h,并将相关代码合并进 mtmd(PR #31865)。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。此次重构属于内部代码整

正文顺带提及命中实体:cuda
llama.cpp Releases一手来源开源3

llama.cpp b12210:CPU 启用 SpacemiT IME2 MXFP4 稠密重打包

llama.cpp 发布 b12210 版本,主要变更为在 CPU 后端启用 SpacemiT IME2 MXFP4 稠密重打包(dense repack),该提交由 Codex 辅助完成。同时该版本照例提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译包,涵盖 CUDA、Vulkan、ROCm、

正文顺带提及命中实体:cuda
llama.cpp Releases一手来源开源3

llama.cpp 发布 b12209:llamafile 支持 bf16 与 q8 0 vxe

llama.cpp 发布 b12209 版本,主要变更为在 llamafile 中实现 bf16 与 q8 0 的 vxe 支持,由 IBM 的 Aaron Teo 提交。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 及 Snapdrago

11月8日周日 · 10 条
正文顺带提及命中实体:cuda
llama.cpp Releases一手来源开源3

llama.cpp 发布 b12206:修复 MoE 缓存 CPU 等待问题

llama.cpp 发布 b12206 版本,核心变更是 moe-cache 修复:确保 CPU 部分不会等待已缓存的专家(#31888)。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。此次更新属于推理框架的常规迭代,主要影响 Mo

正文顺带提及命中实体:cuda
llama.cpp Releases一手来源开源2

llama.cpp b12202:按参考精度引入 BF16 累加

llama.cpp 发布 b12202 版本,核心改动是让 llama 与 mtmd 遵循 ggml prec set acc 调用的参考精度:GLM4 系列的下投影与输出投影、MiMoVL 视觉矩阵乘、Qwen3-TTS 说话人编码器 conv1d 改为 GGML PREC BF16,而 DeepSeek V4/V4.1 路由器和 MiniMax-M3 索

正文顺带提及命中实体:cuda
llama.cpp Releases一手来源开源2

llama.cpp b12201:投机解码不再对草稿模型应用 MoE 缓存

llama.cpp 发布构建版本 b12201,主要变更是投机解码(speculative decoding)中不再将 MoE 缓存应用于草稿模型(draft model),对应 PR #31497。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台多后端的预编译二进制包,涵盖 CUDA、Vulkan、ROCm、SYCL

正文顺带提及命中实体:cuda
llama.cpp Releases一手来源开源2

llama.cpp 发布 b12199:清洗工具调用参数中的非法 UTF-8

llama.cpp 发布构建版本 b12199,主要变更是 common 模块对 PEG 工具调用参数中的非法 UTF-8 进行清洗(#31861)。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台多后端的预编译二进制包,包括 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等。此次更新属于工具调用解析的

正文顺带提及命中实体:cuda
llama.cpp Releases一手来源开源2

llama.cpp 发布 b12198:代理日志降级为 trace

llama.cpp 发布 b12198 版本,主要变更是将服务端按请求的代理日志级别降为 trace,以减少日志噪音。该版本同时提供 macOS/iOS、Linux(含 CUDA、ROCm、Vulkan、SYCL、OpenVINO 等后端)、Android、Windows 及 UI 的多平台预编译包。此次更新属于常规构建发布,对终端用户影响有限,主要惠及使用

正文顺带提及命中实体:cuda
llama.cpp Releases一手来源开源2

llama.cpp b12196:SYCL 后端 CPY 对 Q4 1/Q5 1/Q8 0 精确舍入

llama.cpp 发布构建版本 b12196,主要变更是 SYCL 后端在 CPY 操作中对 Q4 1、Q5 1 和 Q8 0 量化格式实现精确舍入(PR #31465)。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。此次更新属于

正文顺带提及命中实体:cuda
llama.cpp Releases一手来源开源2

llama.cpp b12195:SYCL 拒绝超显存缓冲区分配

llama.cpp 发布 b12195 版本,主要变更是 SYCL 后端拒绝会超出显存的设备缓冲区分配(#31285)。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、OpenVINO、SYCL 及骁龙 NPU 等后端。此次更新属于常规构建发布,提升了 SYCL 场景下

正文顺带提及命中实体:cuda
llama.cpp Releases一手来源开源2

llama.cpp 发布 b12194:Hexagon 后端清理与多平台构建

llama.cpp 发布构建版本 b12194,主要包含针对 Hexagon NPU 后端的清理与优化:根据架构设置 N HVX 和 N THREADS 以避免过度分配,将追踪状态与辅助函数迁移到新的 htp-trace.h 头文件,清理 dcache 宏定义,并支持通过 build.py 启用 HTP DEBUG。同时修复了 CI 中的 Python 类型

正文顺带提及命中实体:cuda
llama.cpp Releases一手来源开源2

llama.cpp b12193:mtmd 将 log-mel 计算移入计算图

llama.cpp 发布 b12193 版本,主要变更在 mtmd(多模态)模块:将 log-mel 特征计算移入 cgraph(计算图),并清理了 mtmd audio stft op 等冗余代码、补充了测试。同时该版本照例提供覆盖 macOS/iOS、Linux、Android、Windows 及多种后端(CUDA、Vulkan、ROCm、SYCL、Op

正文顺带提及命中实体:nvidia
llama.cpp Releases一手来源开源2

llama.cpp b12191:MoE 缓存支持 CPU 分担未命中专家

llama.cpp 发布 b12191 版本,为 MoE 缓存引入 CPU 分担机制:通过 --moe-cache-cpu-share 参数,将部分未命中专家在 CPU 上计算而非上传至设备,并新增 moe-cache-tune.py 调优脚本自动推荐缓存大小与 CPU 分担比例。该改动还调整了调度器与图构建逻辑,使 CPU 部分可异步执行、不阻塞设备计算,

11月7日周六 · 3 条
正文顺带提及命中实体:nvidia
THE DECODER研究

Nous Research 微调 Qwen 去除宣传内容,宣传率从 22% 降至 0.9%

Nous Research 对阿里巴巴的 Qwen3.8-27B 进行监督微调,使用约 5300 万 token 训练出 Arete-27B,将模型回答中的中国官方宣传比例从 22% 降至 0.9%,同时基本保持通用能力。团队用 803 条提示词、以 Grok 4.7 作为评判模型构建测试,称中国开源模型的政治倾向只是可被剥离的"薄层"。该模型的权重、测试集

正文顺带提及命中实体:cuda
llama.cpp Releases一手来源开源1

llama.cpp b12187:WebGPU 新增 group norm 算子

llama.cpp 发布 b12187 版本,主要变更为在 WebGPU 后端实现 group norm(分组归一化)算子,包括新增 WebGPU 专用 CI 工作流、参数化数据类型、二维工作组调度以及 group norm 性能测试。该版本同时提供覆盖 macOS、iOS、Linux、Android、Windows 的多平台预编译包,涵盖 CUDA、Vul

正文顺带提及命中实体:cuda
llama.cpp Releases一手来源开源1

llama.cpp b12186:Vulkan decodeBuf 声明加 readonly

llama.cpp 发布 b12186 版本,主要变更是为 Vulkan 后端的 decodeBuf 声明添加 readonly 修饰符(PR #31833),作者期望在未来驱动版本中借此获得性能提升。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台多后端(CUDA、ROCm、Vulkan、SYCL、OpenVINO