返回主题地图

NVIDIA 英伟达

公司与模型 · 英伟达的 AI 芯片与生态动态：GPU 新品、CUDA 生态、机器人平台与 AI 算力供给

关联由结构化实体与正文位置共同判定 · 最近刷新 2026-11-11 07:16

顺带提及正文出现过，但不是文章的主要讨论对象，当前共 676 条。
10月20日周二 · 8 条
正文顺带提及命中实体：cuda
llama.cpp Releases一手来源开源

llama.cpp b11744：server 新增 --connect 支持跨局域网 P2P 访问

llama.cpp 发布 b11744 版本，为其 server 组件新增 --connect 选项，允许通过 llama-connect 隧道让局域网外的客户端以点对点方式访问本地推理服务，该功能被明确标注为实验性。同时修复了未启用隧道时仍展示 connect code 的问题，并改进了端口绑定、主机选择及 Unix socket 场景下的处理。此次更新还

正文顺带提及命中实体：nvidia
AWS Machine Learning Blog一手来源产品发布

SageMaker JumpStart 2026 年回顾：新增 100+ 模型

AWS 发布 Amazon SageMaker JumpStart 2026 年前三季度回顾，称其新增来自 30 家提供商的 100 多个模型，其中阿里巴巴 Qwen 贡献 29 个、NVIDIA 17 个、Mistral 7 个、Google 6 个、IBM 和 Cohere 各 4 个。新增模型覆盖推理、MoE、智能体、代码生成、语音、多模态、图像视频生

正文顺带提及命中实体：cuda
llama.cpp Releases一手来源开源

llama.cpp b11741：OpenCL 新增 q4 0/q4 k/q6 k 的 cooperative-k dp4a GEMM

llama.cpp 发布 b11741 版本，为 OpenCL 后端新增 cooperative-k dp4a GEMM 实现，覆盖 q4 0、q4 k 和 q6 k 三种量化格式，并修复了内存对齐问题。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译包，涵盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO

正文顺带提及命中实体：cuda
llama.cpp Releases一手来源开源

llama.cpp b11740：OpenCL 新增 i32 GET ROWS 与类型拷贝支持

llama.cpp 发布 b11740 版本，主要更新为 OpenCL 后端新增对 i32 类型 GET ROWS 操作的支持，以及 i32 与 f32 之间的拷贝转换支持。该版本同时提供覆盖 macOS、iOS、Linux、Android、Windows 等多平台及 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后端的预编译二进制包。

正文顺带提及命中实体：cuda
llama.cpp Releases一手来源开源

llama.cpp 发布 b11739：jinja 新增 unique 过滤器

llama.cpp 发布 b11739 版本，主要变更是为内置 jinja 模板引擎实现 unique 过滤器，并做了 key of 内联与对齐修复。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台、多后端（CUDA、Vulkan、ROCm、SYCL、OpenVINO 等）的预编译二进制及 UI 包。此次更新属于工具链

正文顺带提及命中实体：nvidia
Hugging Face New and Trending Models一手来源模型发布

TheStage AI 发布 Whisper Large V3 Turbo 优化版

TheStage AI 发布 thewhisper-large-v3-turbo，这是对 OpenAI Whisper Large V3 Turbo 进行量化与编译优化的变体，面向实时、低延迟、低功耗的语音识别推理。该模型通过其 ANNA 加速器生成 XL/L/M/S 四档弹性模型，可在 NVIDIA GPU、Apple Silicon（CoreML）和 A

正文顺带提及命中实体：cuda
llama.cpp Releases一手来源开源

llama.cpp b11738：修复 server 端 SWA checkpoint 失效逻辑

llama.cpp 发布 b11738 版本，主要修复了 server 端 SWA（滑动窗口注意力）checkpoint 失效判断逻辑的缺陷，并新增了在 n past 场景下会失败、在 n prefix 场景下正常的测试用例。该版本同时提供 macOS、Linux、Windows、Android 等多平台及各硬件后端（CUDA、Vulkan、ROCm、SYC

正文顺带提及命中实体：nvidia
Hugging Face New and Trending Models一手来源模型发布

cyankiwi 发布 Qwen3.5-9B AWQ-BF16-INT8 量化模型

cyankiwi 在 Hugging Face 发布了 Qwen3.5-9B 的 AWQ-BF16-INT8 量化版本，基于 Qwen/Qwen3.5-9B 使用 llm-compressor 完成量化，校准数据来自 nvidia/Llama-Nemotron-Post-Training-Dataset，模型体积约 14.14 GB，采用 Apache-2.

10月19日周一 · 4 条
正文顺带提及命中实体：cuda
llama.cpp Releases一手来源开源

llama.cpp 发布 b11734：重构 CANN 后端条件编译

llama.cpp 发布 b11734 版本，主要变更是在 CANN 后端重构 #ifdef 代码块，避免 return 之后出现不可达代码（#25273）。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包，覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO、Snapdragon 等后端。此次更

正文顺带提及命中实体：cuda
llama.cpp Releases一手来源开源

llama.cpp b11731：向量化 ggml v silu 与 ggml v expf

llama.cpp 发布 b11731 版本，核心变更是由 IBM 的 Aaron Teo 提交的 ggml-cpu 优化：对 ggml v silu 和 ggml v expf 两个向量函数进行向量化，以提升 CPU 推理性能。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 的多种后端预编译包，包括 CUDA、Vulka

正文顺带提及命中实体：cuda
llama.cpp Releases一手来源开源

llama.cpp b11729：Qwen3 支持双向注意力与 dense 2 输出投影

llama.cpp 发布 b11729 版本，为 Qwen3 模型新增双向注意力（bidirectional attention）与 dense 2 输出投影支持，并在转换脚本 base 中读取 use bidirectional attention 配置。该改动由社区贡献者提交、Grok 辅助完成，同时发布覆盖 macOS、Linux、Windows、An

正文顺带提及命中实体：cuda
llama.cpp Releases一手来源开源

llama.cpp b11723：Hexagon FLASH ATTN EXT 长上下文与 SWA 优化

llama.cpp 发布 b11723 版本，主要针对 Hexagon 后端（高通 NPU）的 FLASH ATTN EXT 进行改进，以支持更长上下文和 SWA（滑动窗口注意力）模型。改动包括支持掩码块跳过以减少 DMA 数据搬运、微调 hmx 到 hvx 的切换阈值（提升 gemma-4 表现），以及更新 hmx 门控以考虑 mdev.count。该版本

10月17日周六 · 4 条
正文顺带提及命中实体：cuda
llama.cpp Releases一手来源开源

llama.cpp b11712：随机模型生成器引入按张量填充表

llama.cpp 发布 b11712 版本，主要改动是给随机模型生成器引入按张量名匹配的填充表（per-tensor filler table），修复了 Muse Spark 模型在滑动窗口注意力（SWA）下 state load 测试约 6% 随机种子超出 NMSE 阈值的问题。改动后最差误差从 1.36e-05 降至 2.48e-06，中位数从 4.1

正文顺带提及命中实体：cuda
llama.cpp Releases一手来源开源

llama.cpp b11706：修复 SYCL 权重重排后提示词处理回归

llama.cpp 发布 b11706 版本，主要修复了 Q4 0/Q8 0 权重重排后 SYCL 后端提示词处理出现的回归问题（#30374）。该版本同时提供 macOS、Linux、Windows、Android 等多平台、多后端（CUDA、Vulkan、ROCm、SYCL、OpenVINO 等）的预编译二进制包。此次更新属于开源推理框架的常规缺陷修复与

正文顺带提及命中实体：cuda
llama.cpp Releases一手来源开源

llama.cpp 发布 b11701：新增 Beam (Reflection) 支持

llama.cpp 发布 b11701 版本，主要变更是为模型新增 Beam（Reflection）支持（PR #30670）。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包，涵盖 CPU、CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。

正文顺带提及命中实体：nvidia
TechCrunch AI模型发布

Elorian发布首个AI模型Glimpse，主打图像推理而非仅描述

帕洛阿尔托AI初创公司Elorian发布首个模型Glimpse，该模型以研究预览形式推出，提供API访问，聊天界面仅限候补名单。Glimpse的核心思路是让模型在推理过程中反复回到图像源，通过裁剪、抽帧或运行代码来测量和比较视觉内容，Elorian称之为“视觉暂存空间”。公司称该模型用几百块GPU训练，规模远小于前沿系统，在科学图表推理和短视频描述任务上表现

10月16日周五 · 4 条
正文顺带提及命中实体：nvidia
InfoQ AI ML and Data Engineering观点

演讲：爆炸的 GPU——AI 安全仍是 Kubernetes 安全

ControlPlane 创始人兼 CEO Andrew Martin 在 InfoQ 演讲中指出，AI 安全本质上仍是 Kubernetes 安全，因为 OpenAI、Anthropic 等几乎所有 AI 系统都运行在 Kubernetes 之上。他强调 GPU 大规模集群已成为新的高价值攻击目标，攻击者可窃取算力转售用于大规模 AI 攻击活动，同时供应链

正文顺带提及命中实体：cuda
llama.cpp Releases一手来源开源

llama.cpp b11693 发布：修复 SYCL 后端内存错误

llama.cpp 发布 b11693 版本，主要修复了 SYCL 后端在 mul mat、split buffer 和 host pool 中的内存错误（PR #29889）。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译二进制包，覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后端。此次更

正文顺带提及命中实体：cuda
llama.cpp Releases一手来源开源

llama.cpp 发布 b11688：优化 CPU AVX2 累加器

llama.cpp 发布 b11688 版本，主要变更是 CPU 后端将 AVX2 分块累加器合并处理（#30296），该改动由 Codex 协助完成。版本同时提供覆盖 macOS/iOS、Linux、Android、Windows、openEuler 及 UI 的多平台预编译产物，涵盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。

正文顺带提及命中实体：cuda
llama.cpp Releases一手来源开源

llama.cpp b11684：修复 Metal 融合基线测试漏检

llama.cpp 发布 b11684 版本，主要更新测试基础设施：重新录制 Metal 融合基线（131 个虚拟模型共 276 行），并修复 test-fusion 在基线行不再匹配时未报错的问题，使 qwen4exp 和 mellum 丢失融合的情况能被检测为回归。同时将 mellum 虚拟模型改为 softmax 门控以匹配其 GGUF 架构默认值，并