NVIDIA 推出 Green Contexts 实现 GPU 资源显式分区
NVIDIA 在技术博客中介绍了 Green Contexts 功能，允许应用显式选择 GPU 执行资源子集并将工作定向到这些资源。该功能自 CUDA 12.4 起在 Driver API 中可用，CUDA 13.1 起通过 Runtime API 开放。它支持 SM 分区和 workqueue 资源分配，可减少多组件 GPU 应用间的资源竞争和意外串行化，
芯片与算力
产业与政策 · 加速卡、算力供给与硬件供应链 · 共 625 条
只展示置信度达到公开门槛且每篇排名前三的主题标签，降低泛化误贴。
10月6日周二 · 7 条
正文结构化主题已通过公开置信门槛
正文结构化主题已通过公开置信门槛
宁德时代与腾讯领投Deepseek巨额融资，公司瞄准2027年IPO
据彭博社报道，中国AI初创公司Deepseek即将完成新一轮融资，至少筹集120亿美元，最初目标约75亿美元、估值约750亿美元，最终总额可能接近150亿美元。宁德时代和腾讯是最大出资方，投资者兴趣源于Deepseek的V4-Flash模型在成本与性能上对标Anthropic和OpenAI创下新标杆。融资完成后，Deepseek计划重组并于2027年初IPO
正文结构化主题已通过公开置信门槛
llama.cpp b11436：修复 ggml-openvino CI 测试与 GPU 回归
llama.cpp 发布 b11436 版本，主要修复 ggml-openvino 后端的 CI 测试与 GPU 回归问题。改动包括：仅从计算节点构建 OpenVINO 模型并支持同类型连续 DUP、使 inp scale rows 的 token 维度动态化、跳过 GPU 上未绑定 Q4 1/Q4 K 权重的 MUL MAT 算子测试、按输出类型创建 FI
正文结构化主题已通过公开置信门槛
Gemma 4 E4B 无审查 NVFP4 草稿模型发布
Hugging Face 上发布了 AEON-7/Gemma-4-E4B-it-Uncensored-NVFP4 模型，这是一个基于 TrevorJS/gemma-4-26B-A4B-it-uncensored 的 EAGLE 投机解码草稿模型，使用 NVIDIA ModelOpt 0.42.0 量化为 NVFP4 AWQ 格式。该模型专为 NVIDIA D
正文结构化主题已通过公开置信门槛
Cerebras 详解 MoE 规模化：WSE 单设备训练万亿参数模型
Cerebras 发布技术博客，讨论如何在真实硬件上高效扩展 MoE 稀疏模型。文章指出，传统 GPU 实现因需将所有专家加载进显存而受限于内存，业界常用专家并行（EP）来缓解，但会带来负载均衡与模型质量之间的张力，以及随专家数量增加的通信开销。Cerebras 称其 WSE 凭借约 900 倍于单 GPU 的片上 SRAM 和权重流式（weight str
正文结构化主题已通过公开置信门槛
Cerebras 详解 MoE 推理数学：8x7B 到底意味着什么
Cerebras 博客发布 MoE 推理数学解析文章，澄清「8x7B」并非 8 个专家各 7B 激活参数，而是约 13B 激活参数。文章系统推导 MoE 推理所需显存（模型权重与 KV-cache）和计算量（prefill 与 decode 的 FLOPs），并指出单 GPU 部署受显存限制、多 GPU 受通信限制、Cerebras WSE 等专用硬件受计算
正文结构化主题已通过公开置信门槛
llama.cpp v0.6.0 发布：新增扩展批处理 API 与多款模型支持
llama.cpp 发布 v0.6.0，引入新的 llama batch ext 扩展批处理 API（含 llama process），支持混合 token/embedding 输入及 MTP/deepstack 状态嵌入。新增 GLM-5.3-Flash（320B 文本+视觉混合模型）、Clef 决策模型及 Qwen4Exp 的 MTP 推测解码支持，并新
10月5日周一 · 8 条
正文结构化主题已通过公开置信门槛
开源还是闭源？创始人在 Disrupt 2026 上如何选择 AI 技术栈
TechCrunch 报道其 Disrupt 2026 大会将设置多场讨论，聚焦 AI 创业公司在开源模型与闭源前沿 API 之间的选择。议题涵盖多模型应用、模型定制与自建、以及 AI 与芯片硬件的相互影响。文章强调模型选择已非一次性架构决策，创始人需在成本、性能、灵活性与自主可控之间权衡。
正文结构化主题已通过公开置信门槛
llama.cpp b11424 发布：修复 Vulkan Flash Attention 越界写入
llama.cpp 发布 b11424 版本，主要修复了 Vulkan 后端 Flash Attention 的共享内存（shmem）越界写入问题（PR #29988）。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译二进制包，覆盖 CPU、CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。
正文结构化主题已通过公开置信门槛
英伟达Inception初创用AI弥合乳腺癌诊疗缺口
英伟达博客介绍其Inception创业计划中的多家公司利用AI改善乳腺癌诊疗缺口。iSono Health的ATUSA可穿戴自动3D超声系统获FDA许可，约两分钟完成单侧乳房标准化扫描，敏感度比手持2D超声高28%，并计划扩展至多模态诊断。Whiterabbit.ai的WRDensity和WRRisk用于乳腺密度评估与风险预测，并研究新一代乳腺X线AI。At
正文结构化主题已通过公开置信门槛
llama.cpp b11414：修复 Vulkan flash attention 与 soft max 的 prealloc y 复用问题
llama.cpp 发布 b11414 版本，主要修复了 Vulkan 后端在 flash attention 与 soft max 之间复用 prealloc y 时出现的陈旧数据问题（PR #29591）。该版本同时提供 macOS、Linux、Windows、Android 等多平台、多后端（CUDA、Vulkan、ROCm、SYCL、OpenVINO
正文结构化主题已通过公开置信门槛
llama.cpp 发布 b11407：修复 Vulkan 测试编译错误
llama.cpp 发布 b11407 版本，主要修复了在开启 -DGGML VULKAN RUN TESTS=ON 编译选项时 Vulkan 后端出现的未声明标识符问题（PR #29912）。该版本同时提供覆盖 macOS、iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制，支持 CUDA、ROCm、Vulka
正文结构化主题已通过公开置信门槛
llama.cpp b11406：WebGPU MMVQ 新增多种量化格式支持
llama.cpp 发布 b11406 版本，主要变更为 WebGPU 后端的 MMVQ 路径新增对 Q1 0、Q5 0、Q5 1、Q3 K、Q5 K、Q6 K 及 MXFP4 等量化格式的支持，并为 Q1 0 的 MMVQ 路径引入 K QUANTS HANDLING 宏。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows
正文结构化主题已通过公开置信门槛
llama.cpp b11403：CUDA 小批量 f16/bf16 mul mat 改用 MMVF
llama.cpp 发布 b11403 版本，主要更新为在 CUDA 后端针对小批量场景下的 thin f16/bf16 mul mat 操作改用 MMVF，并调整了内核选择逻辑。该改动由 NVIDIA 的 ynankani 提交，Johannes Gäßler 参与协作，旨在优化小批量推理时的矩阵乘法性能。版本同时提供覆盖 macOS、Linux、Wind
正文结构化主题已通过公开置信门槛
llama.cpp 发布 b11399：重构 CUDA swizzling 代码
llama.cpp 发布 b11399 版本，主要变更是对 CUDA 后端中的 swizzling（地址重排）代码进行重构，并修复了模板与循环边界问题。该版本同时提供覆盖 macOS、iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包，支持 CPU、CUDA、Vulkan、ROCm、SYCL、OpenVINO
10月4日周日 · 3 条
正文结构化主题已通过公开置信门槛
llama.cpp b11390：修复 CUDA MMQ 内存错误
llama.cpp 发布 b11390 版本，主要修复了 CUDA 后端在 n expert 远大于 n ubatch 时 MMQ（矩阵乘法量化）出现的内存错误。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译二进制包，覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。
正文结构化主题已通过公开置信门槛
华为Mate 90系列发布：搭载τ芯片与鸿蒙7，性能提升31%
华为在10月1日发布Mate 90系列及全场景新品，开场曲《Dream it Possible》全新交响乐版响起，呼应品牌'踏光向前'的精神内核。Mate 90系列全系搭载旗舰τ芯片，采用逻辑折叠芯粒堆叠架构，实现125TB/秒跨Die带宽与30%关键路径时延下降，Mate 90 Pro Max整机性能较上代提升31%。同时鸿蒙终端设备数已突破9000万，鸿
正文结构化主题已通过公开置信门槛
llama.cpp b11382：WebGPU 为 fill/set rows 增加 f16 支持
llama.cpp 发布 b11382 版本，主要变更为在 WebGPU 后端为 fill/set rows 操作增加 f16 支持（PR #29897）。该版本同时提供 macOS/iOS、Linux、Android、Windows 及 openEuler 等多平台预编译二进制，覆盖 CPU、CUDA、Vulkan、ROCm、SYCL、OpenVINO 等
10月3日周六 · 2 条
正文结构化主题已通过公开置信门槛
Meta 开源 Muse Gadgets，让 AI 硬件变成 DIY 项目
Meta 宣布开源项目 Muse Gadgets，允许爱好者基于 ESP32 固件和 Linux SDK 自制 AI 硬件，并接入其 AI 智能体 Muse，代码采用 Apache 2.0 许可。Meta 同时推出自研设备 Muse Home Link，一款 USB-C 小硬件，可让 Muse 控制家中电视、音箱等支持 HTTPS 接口的设备，已生产 500
正文结构化主题已通过公开置信门槛
llama.cpp b11374：ggml-openvino 更新至 2026.4.1 并优化 MoE 性能
llama.cpp 发布 b11374 版本，主要更新 ggml-openvino 后端至 2026.4.1，优化性能、扩展算子并改进设备枚举。更新包含针对 Qwen3.5 MoE 的性能优化、MoE 路由与 GDN 归一化融合、编译模型缓存导入模式，以及为 gemma-4 融合 gate up 权重的 MoE 专家实现。在 Arc B390 上，gemma