返回主题地图

芯片与算力

产业与政策 · 加速卡、算力供给与硬件供应链 · 共 625 条

只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。

10月14日周三 · 4 条
正文结构化主题已通过公开置信门槛
TechCrunch AI商业

法官裁定OpenAI须在苹果商业机密案中提交招聘记录

美国联邦法官裁定,苹果在针对OpenAI的商业机密诉讼中获得加快取证的权利,可查阅OpenAI面试前苹果员工的材料,包括面试清单、指南及涉及苹果技术的记录。法院要求OpenAI在5天内提交已收集材料、14天内提交其余材料,并批准对三名前苹果员工进行取证,但驳回了苹果关于金属表面处理和电源管理等研发信息的加快取证请求。此案背景是OpenAI正开发可能挑战iPh

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11594:Vulkan 支持多设备访问 GPU 可见主机内存

llama.cpp 发布 b11594 版本,主要更新是 Vulkan 后端允许在 Windows 上让多个设备访问 GPU 可见的主机内存,并处理了空指针和启用条件等问题。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译包,覆盖 CUDA、ROCm、Vulkan、SYCL、OpenVINO 等后端。

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11592:CUDA graph 调试开关与环境变量缓存优化

llama.cpp 发布 b11592 版本,主要改动在 CUDA 后端:新增 GGML CUDA GRAPH DEBUG 环境变量用于控制 CUDA graph 调试日志,并将环境变量读取改为通过静态访问器只读取一次,避免每次调用重复读取。同时移除了 CUDA graph 日志的 NDEBUG 门控。该版本照例提供 macOS、Linux、Windows、

正文结构化主题已通过公开置信门槛
智东西商业

上半年中国AI加速器出货:英伟达67.8万颗,华为57.2万颗

IDC数据显示,2026年上半年英伟达在中国数据中心AI加速器市场份额降至34%,出货67.8万颗,同比下降44%;华为以28%份额、57.2万颗出货量紧随其后,高于去年同期的30余万颗。美国出口管制是这一变化的直接背景,黄仁勋称该政策迫使英伟达让出中国约500亿美元市场。上半年中国AI加速器总出货约200.8万颗,非GPU加速器出货101.6万颗、同比增长

10月13日周二 · 6 条
正文结构化主题已通过公开置信门槛
AWS Machine Learning Blog一手来源教程

Amazon SageMaker AI 上的 MoE kernel 工程优化

AWS Machine Learning Blog 发布技术文章,介绍在 Amazon SageMaker AI 上针对 Mixture-of-Experts(MoE)模型的 kernel 工程优化。文章重点讲解 Fused MoE 技术,以及如何通过 Swap-AB 转置矩阵乘法来适配 NVIDIA Hopper 架构的 WGMMA 指令,解决 decod

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11581:移除冗余 ggml cont 调用

llama.cpp 发布 b11581 版本,主要变更是移除模型中冗余的 ggml cont 调用,因为所有一元算子内核现已支持该操作,涉及 CUDA 一元内核及 qwen3next 模型中的 sigmoid 前后处理调整。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译二进制包。

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11580:Hexagon 后端扩展标量 DMA 广播支持

llama.cpp 发布 b11580 版本,主要针对高通 Hexagon NPU 后端扩展了标量 DMA 广播支持,用于二元运算。改动包括为加权标量广播和加权重复广播补充测试、移除 hex-binary 中所有非 DMA 路径、支持非连续步长、简化 DMA 重试逻辑,并将 REPEAT、COMPLEX 内核及 add-id 的 src2 索引也迁移到 DM

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11576:填充 no-cache 注意力 KV 维度至 256

llama.cpp 发布 b11576 版本,修复了 no-cache 注意力路径中 KV 维度未填充的问题。此前该路径构建 [n tokens, n tokens] 掩码并直接传入未填充的 K、V,导致 head size 512 的 CUDA 内核因不满足 FATTN KQ STRIDE 倍数要求而回退到 CPU,且 -fa auto 探测会禁用此类模型

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11575 发布:修复 Metal 大张量矩阵乘错误

llama.cpp 发布 b11575 版本,主要修复了 Metal 后端在处理大张量时 kernel mul mm 出错的问题(PR #28748),该修复由 Codex 辅助完成。同时该版本照例提供了覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 等多平台、多后端(CPU、CUDA、Vulkan、ROCm、S

正文结构化主题已通过公开置信门槛
Hugging Face New and Trending Models一手来源模型发布

Gemma 4 31B IT 的 NVFP4 Blackwell 量化版发布

开发者 melcheikh 在 Hugging Face 发布了 melcheikh/gemma-4-31B-it-qat-NVFP4-Blackwell,将 Google 的 Gemma 4 31B IT 未量化 QAT 权重通过 NVIDIA Model Optimizer(modelopt 0.44.0)量化为 NVFP4 格式,以便在 NVIDIA

10月12日周一 · 10 条
正文结构化主题已通过公开置信门槛
THE DECODER商业

微软计划2027年将自研Maia AI芯片扩展至吉瓦级

微软计划从2027年起以多吉瓦规模部署自研Azure Maia AI芯片,使其成为公司产品的主要推理系统。Maia 200已在美国、欧洲和澳大利亚运行Microsoft Copilot,GitHub Copilot和Foundry将在年底跟进。CEO Satya Nadella称这是公司对自研芯片的最大押注。继任者Maia 300将于2027年出货,面向长输

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11573:Vulkan 后端优化 f16 FMA 打包

llama.cpp 发布 b11573 版本,主要针对 Vulkan 后端进行优化:为 f16 累加打包 FMA 指令,并移除点积(dot product)算子;同时将 dot product 重命名为 dot product v2,并实现每行 f16 FMA 打包两行数据。该版本同步提供 macOS、Linux、Windows、Android 等多平台预编

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11569:修复 Metal mul mat id 重复 id 问题

llama.cpp 发布 b11569 版本,主要修复 Metal 后端 mul mat id 算子在 ids 存在重复时产生错误或丢失输出行、并可能越界写入相邻专家切片的问题。修复通过两遍扫描构建按专家的紧凑 (token, slot) 列表,并借鉴 Vulkan 实现由预处理阶段派发 entry tile,使网格规模缩小约 8-16 倍。883/883

正文结构化主题已通过公开置信门槛
The Verge AI产品发布

微软发布第三代自研AI芯片Maia 300,降低对英伟达GPU依赖

微软发布第三代自研AI芯片Maia 300,定位为微软产品与服务的“主要AI推理系统”,计划2027年投入生产部署。该芯片采用chiplet架构与台积电N2P工艺,官方称每兆瓦token数比领先GPU系统高40%,96加速器配置下机架级吞吐量达Maia 200的7倍。微软云业务负责人Scott Guthrie表示将把Maia扩展至多吉瓦级部署,从而减少对Nv

正文结构化主题已通过公开置信门槛
TechCrunch AI产品发布

前Plaud高管为后台监听AI应用Ambi融资2600万美元

前Plaud高管Peter Mo创立AI应用Ambi,该应用通过持续监听用户来提供实时智能和洞察,并已完成由Luminous Ventures和华勤领投的2600万美元融资。Ambi发布了iPhone、Mac和Apple Watch应用,其AI代理能在会议中主动提供建议,并计划推出自有硬件设备。公司声称不存储录音并加密数据,但环境录音的告知责任仍由用户承担,

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp 发布 b11565:修复 SYCL 后端 DMMV 行尾读取问题

llama.cpp 发布 b11565 版本,主要修复了 SYCL 后端在行尾处 DMMV 读取的越界问题(PR #29338)。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译二进制包,覆盖 CPU、CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。此次更新属于常规维护性发布,提升了 SYC

正文结构化主题已通过公开置信门槛
Hugging Face New and Trending Models一手来源模型发布

Ternary-Bonsai-2-27B 三元量化 MTP 版发布,消费级显卡本地提速

用户 sudoingx 在 Hugging Face 发布了 Ternary-Bonsai-2-27B-PTQ1 0-MTP-GGUF,这是将 Qwen 3.8 27B 的多 token 预测(MTP)头嫁接到 PrismML 三元压缩模型(1.75 bpw,5.95 GB)上的 GGUF 量化版本,并配套一键安装脚本支持 RTX 30/40/50 及 AM

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11564:Vulkan 优化 CM2 量化块大小

llama.cpp 发布 b11564 版本,主要针对 Vulkan 后端进行优化:为 CM2 量化块大小做专门处理,并改用三元表达式避免 switch 语句降级,以提升 CM2 matmul 性能。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译二进制,覆盖 CUDA、ROCm、Vulkan、SYCL、OpenVINO

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11562:修复32位平台Vulkan缓冲区日志

llama.cpp 发布 b11562 版本,主要修复了源码拆分后在 32 位平台上 Vulkan 缓冲区日志的问题,将 vk::Buffer 流操作符移至共享头文件以便 ggml-vulkan-debug.cpp 可见。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译二进制包,覆盖 CPU、CUDA、Vulkan、RO

正文结构化主题已通过公开置信门槛
Apple Machine Learning Research一手来源研究

Minions:基于闲置 Apple Silicon 设备的分布式虚拟 GPU 云

Apple Machine Learning Research 发表论文提出 Minions,一个动态分布式虚拟 GPU 云系统,将多台 macOS 设备上闲置的 Apple Silicon GPU 聚合起来执行大规模机器学习推理任务。该系统提供灵活的 GPU 推理任务执行、容错能力和高效资源利用,使团队无需额外采购 GPU 即可利用现有硬件。作者表示,在集