llama.cpp b11559:优化 OpenCL flash attention 并支持 Gemma-4 dk512
llama.cpp 发布 b11559 版本,主要针对 OpenCL 后端进行优化:改进 flash attention,为 Gemma-4 模型开放 dk512 支持,并优化 dk64 的 GQA 解码。改动由高通工程师参与贡献,同时发布了覆盖 macOS、Linux、Windows、Android 等多平台多后端的预编译二进制包。
产业与政策 · 加速卡、算力供给与硬件供应链 · 共 625 条
只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。
llama.cpp 发布 b11559 版本,主要针对 OpenCL 后端进行优化:改进 flash attention,为 Gemma-4 模型开放 dk512 支持,并优化 dk64 的 GQA 解码。改动由高通工程师参与贡献,同时发布了覆盖 macOS、Linux、Windows、Android 等多平台多后端的预编译二进制包。
llama.cpp 发布 b11554 版本,主要更新为 Vulkan 后端优化:在预处理阶段处理 mul mat id 的重复行 ID,而非循环处理,通过始终启用「hoist row ids」优化并生成紧凑的 tile 描述列表,在需要时发射多个 tile,从而收紧 workgroup 数量上界并让尾部提前退出。该版本同时提供 macOS、Linux、Wi
THE DECODER 报道称,Ornn、Silicon Data 和 Bloomberg 截至 2026 年 8 月的数据显示,AI 市场出现 a16z 所称的教科书式杰文斯悖论:token 价格持续下降,但 H100 GPU 租赁价格保持稳定甚至上涨。更便宜的 token 解锁了 AI 智能体、自动化和新应用,使使用量增长快于单位成本下降。整个体系依赖一
美国CPU创企Nuvacore正以约25亿美元(约合人民币168.3亿元)估值筹集数亿美元资金,用于开发专为数据中心设计的新型CPU,但公司成立仅六个月且尚未推出任何产品,融资也未完成。创始人Gerard Williams III曾先后在Arm、苹果、高通主导Cortex、A系列及Oryon三代CPU架构设计。路透社称本轮融资背景是Agent类AI任务激增,
后摩智能联合创始人信晓旭在2026全球AI芯片峰会(GACS 2026)演讲中提出,2026年是Agent元年,模型压缩与端边芯片性能提升共同打开端边AI商业化奇点,端云AI将协同共生,Token交互入口成为竞争焦点。后摩智能布局2D与3D CIM存算一体双技术体系,将于10月生态合作伙伴大会发布基于3D CIM架构的新产品A20;旗舰芯片M50量产未满一年
llama.cpp 发布 b11541 版本,主要变更为在 OpenCL 后端新增两个 MoE 矩阵乘法内核 kernel gemm moe q4 k q8 1 dp4a bin 和 kernel gemm moe q6 k q8 1 dp4a bin(PR #30187)。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows
llama.cpp 发布 b11538 版本,主要修复了 CUDA 后端在 MSVC 编译环境下的舍入(round)问题,使 CPU 与 GPU 计算结果保持一致。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译二进制包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后端。
llama.cpp 发布 b11534 版本,主要针对 CUDA 后端进行优化:在 SSM SCAN 之后移除冗余的 CUDA 拷贝,将更新后状态快照的拷贝融合进循环缓存,并在 K==1(非投机解码)场景下同样移除冗余拷贝。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包。
llama.cpp 发布 b11533 版本,主要修复了 OpenCL 后端在 A6x GPU(如 Adreno 623)上的内核编译问题。具体包括在 A6X 上跳过 kernel cpy f32 f32 pack 以避免着色器编译器崩溃、为 GEMV 内核中的 get local size 提供 A6X 常量折叠变通方案,并将 Adreno 623 加入
格罗方德与台积电达成约20亿美元(约合人民币134亿元)的多年期制造协议,将在美国纽约州马耳他工厂建立硅中介层生产基地,为台积电CoWoS先进封装生态供货,成为美国首个为先进封装供应硅中介层的厂商。该项目预计2028年上半年开始量产爬坡,初始期限五年,主要服务CoWoS-S路线。此举为AI芯片先进封装供应链新增美国本土供应点,有望缓解CoWoS产能紧张这一A
据The Information报道,英伟达计划投资美国AI推理芯片创企d-Matrix,这是其自2025年12月与Groq达成200亿美元许可协议以来首次投资AI推理芯片初创公司。三个月前双方已宣布合作,让两家芯片协同处理同一AI推理工作负载的不同部分,即“解耦式推理”。英伟达此前还向英特尔投资50亿美元、向Marvell投资20亿美元,试图将对手芯片纳入
llama.cpp 发布 b11527 版本,主要变更是 WebGPU 后端将所有原本使用 1D 工作组调度的算子(如 rms norm)改为使用 2D 工作组调度,并移除了 1D 工作组调度逻辑。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台及 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端的
llama.cpp 发布 b11526 版本,主要修复了 Vulkan 后端中 rms norm 算子 workgroup 数量溢出的问题(PR #30145)。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译二进制包,覆盖 CPU、CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后端。此次更
llama.cpp 发布 b11524 版本,主要变更是从默认架构中移除 MUSA 的 mp 21,由摩尔线程的 Xiaodong Ye 提交并经过评审修改。该版本同时提供覆盖 macOS、iOS、Linux、Android、Windows 和 openEuler 的多平台预编译二进制包,支持 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等
llama.cpp 发布 b11518 版本,主要变更为在 Metal 后端新增 128/96 flash attention 内核,并支持接受所有已编译的配对组合(PR #30209)。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译二进制包,覆盖 CPU、CUDA、Vulkan、ROCm、SYCL、OpenV
llama.cpp 发布 b11517 版本,主要变更是 CUDA 后端将 src1 精度传递给主机端 MMQ 配置辅助函数(PR #30168),由 NVIDIA 的 ynankani 提交。该版本同时提供覆盖 macOS、Linux、Windows、Android 等平台的预编译二进制包,支持 CUDA、Vulkan、ROCm、SYCL、OpenVINO
llama.cpp 发布 b11515 版本,主要更新为 SYCL 后端新增 Q5 K 重排布局的 MMVQ 与融合 GLU 支持(PR #29375)。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制,涵盖 CPU、CUDA、Vulkan、ROCm、SYCL、OpenVINO
llama.cpp 发布 b11514 版本,主要修复了 Musa 后端的 FWHT(快速沃尔什-哈达玛变换)问题(PR #30167)。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包,支持 CPU、CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后端。
llama.cpp 发布 b11513 版本,主要改进 CUDA 后端的 top-k 算法选择。新实现用基于行的 radix select 替代 CUB 的逐行 DeviceTopKKernel,在 qwen4exp 34,816 tokens 场景下将 top-k 从 1,671,253 次启动/5,761.8 ms 降至 2,329 次/941.8 ms
据海外科技媒体Sammy Fans援引半导体博主Jukan的爆料,Anthropic正考虑采用三星2nm工艺制造其自研定制AI加速器,该芯片由博通担任设计合作伙伴,算力约4000TOPS、功耗约1300W,配备192GB HBM3e内存,初期产量或达20万颗。若消息属实,这将成为三星代工继特斯拉165亿美元订单之后在超大规模客户中的又一重要订单,也意味着An