llama.cpp 修复 Metal mul mm id 激活超 f16 范围导致的 NaN
llama.cpp 修复了 Metal 后端 mul mm id 算子在激活值超出 f16 范围（65504）时产生 NaN 的问题。原因是 simdgroup MMA 将 src1 窄化为 half 导致 inf 并污染整个 8x8 累加器，修复方式是按 2 的幂对 src1 重新缩放并在存储时还原，保证结果精确且对现有模型比特级一致。该缺陷曾导致 Mis
芯片与算力
产业与政策 · 加速卡、算力供给与硬件供应链 · 共 625 条
只展示置信度达到公开门槛且每篇排名前三的主题标签，降低泛化误贴。
9月16日周三 · 6 条
正文结构化主题已通过公开置信门槛
正文结构化主题已通过公开置信门槛
llama.cpp b10993 发布：为 hf-jobs 添加自托管 WebGPU 与 Vulkan
llama.cpp 发布 b10993 版本，主要变更是为 hf-jobs 添加自托管的 WebGPU 和 Vulkan 后端，并调整 CPU 后端线程数。该版本同时提供覆盖 macOS、Linux、Windows、Android 等平台的预编译二进制，支持 CUDA、ROCm、Vulkan、SYCL、OpenVINO 等多种加速后端。
正文结构化主题已通过公开置信门槛
llama.cpp b10989：为 ROCm 启用 HIP AllReduce
llama.cpp 发布 b10989 版本，主要变更为在 HIP 后端为 ROCm 启用 AllReduce（PR #27825）。该版本同时提供 macOS、iOS、Linux、Android、Windows 及 openEuler 等多平台预编译二进制包，覆盖 CPU、CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。此次更新提升了
正文结构化主题已通过公开置信门槛
国产MCV模式5公里10天预报1小时算完，曙光8000支撑
中国气象局地球系统数值预报中心与中科曙光联合宣布，我国自主研发的下一代天气-气候一体化模式MCV实现全球5公里分辨率、未来10天预报在1小时内完成计算，超越欧洲中心IFS约9公里的业务运行最高水平。该成果依托首个全国产十万卡AI超集群曙光8000，完成动力、物理、插值等全模式异构移植与系统级优化，标志国产异构计算平台从科研验证走向国家级业务系统支撑，并有望服
正文结构化主题已通过公开置信门槛
NVIDIA Groq 3 LPX 确定性执行如何驱动高能效推理
NVIDIA 在技术博客中介绍其 Vera Rubin 平台如何通过功耗管理实现高能效 AI 推理，核心是 NVIDIA Groq 3 LPX 的确定性执行模型。该模型让 LPU 编译器在运行前生成精确到时钟周期的执行调度，从而预测每个周期的电流需求，并借助 Preemptive Power（PEP）和 Clock Period Synthesis（CPS）
正文结构化主题已通过公开置信门槛
AWS 为 SageMaker AI 训练作业推出实例偏好列表
AWS 为 Amazon SageMaker AI 训练和 Processing 作业推出实例偏好列表功能，用户可在创建作业时按优先级指定最多五种可接受的实例类型。SageMaker 会按顺序自动评估并选择首个有可用容量的实例类型启动作业，无需手动重试脚本或轮询。该功能还支持与 Flexible Training Plans 预留容量集成，优先使用预留容量，
9月15日周二 · 10 条
正文结构化主题已通过公开置信门槛
NVIDIA FLARE 跨 Docker、Kubernetes 和 Slurm 扩展联邦学习
NVIDIA 发布技术博客，介绍 NVIDIA FLARE 如何通过两层架构将联邦学习中的持久化联邦服务与作业执行分离，使同一联邦中的不同站点可分别使用 Docker、Kubernetes 或 Slurm 作为执行后端。FLARE 2.8 已支持 Docker 和 Kubernetes 部署，2.9 新增 Slurm 支持。该设计让各站点保留对计算资源、数据
正文结构化主题已通过公开置信门槛
llama.cpp b10984：CUDA 支持行连续 SUM ROWS
llama.cpp 发布 b10984 版本，主要更新为 CUDA 后端支持行连续的 SUM ROWS 操作，并整理代码、新增 GGML OP MEAN 以复用同一共享内核处理行连续张量，同时为 MEAN 的 permute/slice 添加测试。该版本同步提供 macOS、Linux、Windows、Android 等多平台预编译二进制包。
正文结构化主题已通过公开置信门槛
联发科发布天玑9600 Pro：2nm制程首创AI原生架构
联发科正式发布新一代旗舰移动平台天玑9600 Pro，这是天玑首款Pro旗舰，率先采用台积电2nm制程，并首创AI原生架构，将CPU、GPU、NPU、ISP等异构计算核心整合为系统级融合计算架构。该平台搭载2+3+3全大核CPU、双NPU架构、天玑神经网络渲染架构及智能影像架构，支持端侧运行最高30B MoE大模型，并与vivo、OPPO、阶跃星辰合作落地主
正文结构化主题已通过公开置信门槛
llama.cpp b10981：优化 OpenVINO 有状态解码与 GPU MoE 推理
llama.cpp 发布 b10981 版本，主要针对 OpenVINO 后端进行优化，涵盖有状态解码、GPU MoE 推理、KV 状态重排、RoPE 与归一化翻译等。修复了 Gemma-4 等模型因逐层 KV 头数/头尺寸差异导致解码乱码的问题，并拒绝无法从 KV 状态恢复的有状态解码。性能上，GPU 上 gemma-4-12B 在深度 8192 时从 6
正文结构化主题已通过公开置信门槛
llama.cpp b10980 发布：OpenCL 新增通用 ssm scan
llama.cpp 发布 b10980 版本，主要变更是为 OpenCL 后端新增通用的 ssm scan 算子（PR #28881），并修复了空白字符问题。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows、openEuler 等多平台的预编译二进制包，支持 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多
正文结构化主题已通过公开置信门槛
llama.cpp b10978：Metal 新增支持 MiniCPM3 的 FA 内核
llama.cpp 发布 b10978 版本，为 Metal 后端新增了 HSK=96、HSV=64 的 Flash Attention 内核，以支持 MiniCPM3 模型。此前 MiniCPM3 将 attention.key length 设为 96 且 value length 默认为 64，Metal 缺少 (96,64) 实例化导致 -fa au
正文结构化主题已通过公开置信门槛
Arm发布Neoverse CSS N4与AI Portal，布局智能体算力平台
Arm在Arm Everywhere China年度大会上发布Neoverse CSS N4平台，并展示Arm AGI CPU在中国生态的进展。Arm称AGI CPU在同等性能下TDP为300瓦，而x86方案通常为500瓦，可缓解数据中心电力与机架空间压力。同时Arm上线Arm AI Portal开发者平台，首批预优化模型包括通义千问、Google Gemm
正文结构化主题已通过公开置信门槛
OpenAI 据报以逾3亿美元收购手机摄像头公司 Glass Imaging
据《华尔街日报》报道，OpenAI 以超过 3 亿美元收购了智能手机摄像头公司 Glass Imaging。Glass Imaging 成立于 2019 年，由两位前苹果工程师 Ziv Attar 和 Tom Bishop 创办，他们曾领导苹果人像模式的开发团队，该公司利用神经网络学习不同手机摄像头系统，在拍摄瞬间即产出更好图像。OpenAI 未立即回应置评
正文结构化主题已通过公开置信门槛
有研硅收购两家半导体材料公司，复牌股价一度大涨16%
科创板上市公司有研半导体硅材料股份公司（有研硅）于9月12日披露重组预案，拟收购山东有研艾斯71.89%股权和山东有研半导体14.98%股权，交易完成后两家公司将成为其全资子公司。9月14日复牌后股价盘中最高涨幅达16.92%，全天振幅33.64%，成交额约36.93亿元。此次整合使有研硅形成6英寸、8英寸、12英寸全尺寸半导体硅片产品矩阵，完成12英寸硅片
正文结构化主题已通过公开置信门槛
用 NVIDIA Transformer Engine 在 JAX 中加速无丢弃 MoE 训练
NVIDIA 技术博客介绍如何利用 JAX 和 NVIDIA Transformer Engine 加速无丢弃（dropless）MoE 训练。文章指出 MoE 训练面临动态路由、不规则张量、all-to-all 通信等瓶颈，在 DeepSeek-V3 于 GB200 上的基线仅 103 TFLOPS/GPU，通信占内核时间 84%。通过 Transform
9月14日周一 · 4 条
正文结构化主题已通过公开置信门槛
llama.cpp b10956：SYCL 后端新增基数选择 TOP K
llama.cpp 发布 b10956 版本，为 SYCL 后端新增基于基数选择（radix select）的 TOP K 实现，解决了此前 k 32 时被迫回退 CPU 的限制。新实现将直方图而非候选集放入 SLM，使内存占用与 k 无关，并支持在行数不足时把单行拆分到多个工作组以充分利用设备。实测在 ne=[131072,1] k=2048 时相对 CP
正文结构化主题已通过公开置信门槛
llama.cpp b10952 发布：修复 SYCL oneDNN scratchpad 内存池释放顺序
llama.cpp 发布 b10952 版本，主要修复了 SYCL 后端中 oneDNN scratchpad 破坏内存池释放顺序的问题（PR #28704）。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译二进制包，覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后端。
正文结构化主题已通过公开置信门槛
llama.cpp b10950：CUDA 后端在无 BF16 硬件加速设备上回退 F32
llama.cpp 发布 b10950 版本，主要变更是 ggml-cuda 后端在不支持 BF16 硬件加速的设备上回退到 F32 计算，覆盖 NVIDIA（Ampere 之前）以及 AMD（RDNA3 之前或 CDNA 之外）的 GPU。该改动由 Johannes Gäßler 贡献，并同时适用于 NVIDIA 平台。发布包涵盖 macOS、Linux、
正文结构化主题已通过公开置信门槛
llama.cpp 发布 b10948：WebGPU 测试排除 HY V4
llama.cpp 发布 b10948 版本，主要变更是将 HY V4 从 WebGPU 的 test-llama-archs 测试中排除（PR #28855，由 Stanisław Szymczyk 共同提交）。该版本同时提供 macOS/iOS、Linux、Android、Windows 及 openEuler 等多平台预编译二进制包，覆盖 CUDA、V