返回主题地图

芯片与算力

产业与政策 · 加速卡、算力供给与硬件供应链 · 共 625 条

只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。

10月9日周五 · 4 条
正文结构化主题已通过公开置信门槛
正文结构化主题已通过公开置信门槛
AWS Machine Learning Blog一手来源教程

用 Amazon SageMaker HyperPod 实现多团队共享 GPU 集群的隔离与公平

AWS 发布了一篇技术博客,介绍如何在 Amazon SageMaker HyperPod 上构建多租户架构,让多个团队共享同一 GPU 集群。该方案结合 AWS IAM Identity Center 做集中认证、按团队划分 SageMaker AI 域、用 Kubernetes 命名空间隔离工作负载,并通过 HyperPod Task Governanc

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp 发布 b11510:CUDA 新增循环 PAD 内核

llama.cpp 发布 b11510 版本,主要更新为 CUDA 后端新增循环 PAD 内核,以支持超过 65535 行或切片的张量填充操作。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译二进制包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后端。

正文结构化主题已通过公开置信门槛
TechCrunch AI产品发布

Natura 推出 99 美元智能戒指,把 AI agent 戴在手指上

AI 与硬件初创公司 Natura 推出售价 99 美元的智能戒指 Interface,主打在 AI agent 时代通过按压戒指即可调用 AI agent 完成任务、记录想法,并兼具心率、HRV、睡眠、活动等健康追踪功能。该戒指可连接 Meta Muse、Instinct、Grokbot、Claude、ChatGPT 等多种 AI agent 与应用,预计

10月8日周四 · 16 条
正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11509 修复 CUDA CCCL 版本守卫缺陷

llama.cpp 发布 b11509 版本,修复了 CUDA 后端中 CCCL 版本守卫在重大版本号滚动时失效的问题。原守卫分别比较主次版本号,导致 CCCL 4.x 及以上版本被误判为不满足条件,argsort 静默回退到 init offsets 路径,造成无警告的性能损失。修复改用 CCCL 打包整数版本号进行单次比较,并在 RTX 4070、CUD

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11507:支持 MoE 缓存跨多 GPU

llama.cpp 发布 b11507 版本,主要变更是支持 MoE 缓存在多 GPU 间分布(PR #30112)。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。此举可提升大 MoE 模型在多卡环境下的推理效率。

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp 发布 b11503:升级 cpp-httplib 至 0.60.1

llama.cpp 发布 b11503 版本,主要更新是将内置的 cpp-httplib 依赖升级到 0.60.1(由 Adrien Gallouët 提交,PR #30134)。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包,支持 CPU、CUDA、Vulkan、ROCm、

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp 发布 b11501:SYCL FWHT 优化

llama.cpp 发布 b11501 版本,主要更新为针对 SYCL 后端的 FWHT(快速沃尔什-哈达玛变换)优化(PR #29605)。该版本同时提供覆盖 macOS/iOS、Linux、Windows、Android 及 openEuler 的多平台预编译二进制包,涵盖 CPU、CUDA、Vulkan、ROCm、OpenVINO、SYCL 等多种后端

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11499:CUDA roll 支持非连续操作

llama.cpp 发布 b11499 版本,主要变更是 CUDA 后端在 roll 操作中改用字节步长(byte strides),以支持非连续的 ROLL 操作。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译二进制包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11498:修复 CUDA norm 系列 kernel 网格维度限制问题

llama.cpp 发布 b11498 版本,主要修复了 CUDA 后端中 norm 系列 kernel 在 ne[2]/ne[3] 超过 grid 维度限制时的问题(PR #28175)。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译二进制包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO

正文结构化主题已通过公开置信门槛
量子位产品发布

联想YOGA Pro 15 RTX Spark开启盲约,搭载NVIDIA N1X芯片

联想于10月8日9:00开启YOGA Pro 15 RTX Spark笔记本电脑全网盲约,该产品为全球首批搭载NVIDIA RTX Spark N1X超级芯片的本地智能体AIPC。芯片集成Blackwell RTX GPU与Grace CPU,可提供1 Petaflop FP4端侧AI算力,支持至高128GB统一内存,本地运行超千亿参数大模型并出厂自带35B

另有 1 家信源报道

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11496:SYCL 后端通过固定环形缓冲区分阶段批量上传模型

llama.cpp 发布 b11496 版本,主要变更是为 SYCL 后端引入通过固定环形缓冲区(pinned ring buffer)分阶段进行模型加载时的批量上传(PR #29608)。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包,涵盖 CPU、CUDA、Vulkan、

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11494:CUDA GDN 状态列优化与多平台构建

llama.cpp 发布 b11494 版本,主要更新为 ggml-cuda 后端中 GDN 状态列的 warp 分配优化,将每 warp 的 GDN 状态列数从 2 提升至 4,并在 S v=128 时默认使用 4 列。该版本同时提供覆盖 macOS、Linux、Windows、Android 等多平台及 CUDA、Vulkan、ROCm、SYCL、Ope

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11493:SYCL 新增分组 MoE XMX GEMM

llama.cpp 发布 b11493 版本,主要变更为在 SYCL 后端新增分组 MoE XMX GEMM 支持(PR #29245)。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制,涵盖 CPU、CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。

正文结构化主题已通过公开置信门槛
雷峰网 AI科技评论商业

北醒李远:给机器造眼睛,押注物理AI的十一年

北醒(Benewake)创始人李远在专访中回顾了公司十一年来为机器制造激光雷达“眼睛”的历程。2025年上半年北醒交付25万台机器人用激光雷达,机器人业务收入占公司营收超过一半,且该业务收入较2024年翻倍。李远提出激光雷达测得的距离、位置等信息不应只用于避障,还应成为模型学习物理世界的材料,并介绍了水下UW500、具身智能NOVA20及轨道交通Horn等产

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11490 发布:Hexagon 后端启用 alloc buffer n

llama.cpp 发布 b11490 版本,主要更新为 Hexagon 后端启用 alloc buffer n,新增对大张量拆分到独立缓冲区的支持,并将 GGML HEXAGON MBUF 改为接受 dyn、static、total 三个值,同时把动态缓冲区默认值从 128MB 提升到 512MB 以改善大 MoE 模型性能。此外新增 --no-embd-

正文结构化主题已通过公开置信门槛
雷峰网 AI科技评论商业

华为英伟达推KV Cache外置存储,专用SSD规格仍未统一

华为在全联接大会上推出OceanStor M900,英伟达也推出CMX Context Memory Storage,两者都将推理过程中的KV Cache进行分层管理和外置存储,以"以存换算"降低重复计算开销。业内认为KV Cache外置的核心是在算力成本与存储成本间找平衡,但面向KV Cache负载优化的SSD尚未形成标准化产品,规格(容量、耐久度、性能)

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11480:为宿主内存中的 MoE 专家增加 GPU 缓存

llama.cpp 发布 b11480 版本,主要变更为在 llama 中为保存在主机内存中的 MoE 专家添加 GPU 缓存(PR #29887),该改动由 Claude 协助完成。版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。

正文结构化主题已通过公开置信门槛
TechCrunch AI产品发布

微软发布搭载英伟达芯片的新款AI PC与改版Windows 11

微软在旧金山 Tech Week 活动上公布了搭载 Nvidia RTX Spark 芯片的新款 Surface Laptop Ultra 和 Surface RTX Spark Dev Box 的规格与价格,前者起售价 2600 美元,后者起售价 6000 美元,主打本地运行 AI 模型。两款设备运行改版 Windows 11,新增 Execution C

正文结构化主题已通过公开置信门槛
NVIDIA Generative AI Blog一手来源产品发布

NVIDIA与微软为Windows PC推出RTX Spark与AI智能体

在旧金山微软活动上,黄仁勋与纳德拉宣布 NVIDIA 与微软联合为 Windows PC 打造 AI 智能体运行环境。微软宣布 Microsoft Execution Containers(MXC)正式可用,为智能体提供操作系统级安全运行基础设施;NVIDIA 推出 RTX Spark,将完整 AI 栈带入 Windows 笔记本和紧凑台式机,笔记本即日开启