llama.cpp 发布 b10944:修复 SYCL 内存获取错误
llama.cpp 发布 b10944 版本,主要修复 SYCL 后端获取内存时的错误(#28227),包括对不支持 ZES API 的处理、优化代码、调整日志级别、清理无用头文件,并修复检测 Level Zero SDK/开发包失败时的构建错误。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译二进制包。
产业与政策 · 加速卡、算力供给与硬件供应链 · 共 625 条
只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。
llama.cpp 发布 b10944 版本,主要修复 SYCL 后端获取内存时的错误(#28227),包括对不支持 ZES API 的处理、优化代码、调整日志级别、清理无用头文件,并修复检测 Level Zero SDK/开发包失败时的构建错误。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译二进制包。
llama.cpp 发布 b10938 版本,主要修复 Vulkan 后端的一个驱动 bug:当同一 VkDevice 上的两个队列同时提交时,会破坏内部同步。在驱动修复前,项目在 queuesubmit 周围加互斥锁作为临时方案。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译包。
llama.cpp 发布 b10937 版本,主要变更是将 OpenCL 后端的 noshuffle 行对齐规则从仅适用于 q6 K 扩展到 q4 K、q5 K 和 q8 0 量化类型(PR #28575)。该版本同时提供 macOS、iOS、Linux、Android、Windows 及 openEuler 等多平台预编译二进制包,覆盖 CPU、CUDA、
llama.cpp 发布 b10929 版本,主要变更是为 ggml-cuda 后端添加针对 AMD GCN 架构的 HIP 专用配置表(PR #27841)。该版本同时提供覆盖 macOS、Linux、Windows、Android 等平台的预编译二进制包,包含 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后端。此次更新提升了 AM
llama.cpp 发布 b10921 版本,主要修复 WebGPU 后端张量绑定对齐问题:将绑定偏移回退到与张量距离为整数个块的位置,使块量化视图在着色器中获得有效的元素偏移。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译二进制包。
A股上市公司金字火腿的全资子公司福建金字半导体以1.74亿元完成对杭州光通信芯片公司中晟微电子的第二轮增资,两轮累计投资约2.74亿元,合计持股19.0002%,本轮投后估值约15.96亿元。中晟微电子聚焦400G/800G/1.6T及以上高速光模块核心电芯片(TIA、Driver、CDR等),已实现单波100G TIA/Driver量产出货。此举反映产业资
RunningHub 开源了 MiniMax H3 视频生成加速方案 H3 Lightning,通过 RH 后训练加速模型将生成步数从 50 步压缩至 9 步,并叠加 SageAttention2、Cache-DiT、torch.compile 及 TP2+Ulysses4 多卡并行优化,在 4 张 RTX 6000D 上把 5 秒视频生成耗时从 348.8
北京离子阱量子计算公司维刻量光完成超亿元Pre-A轮融资,由九智资本领投,正轩资本、瀚晖资本跟投,资金用于产线扩大及整机建设。公司成立于2026年2月,脱胎于清华大学金奇奂团队,押注玻璃基QCCD路线,已实现531个离子晶格稳定囚禁,并开始小批量交付芯片与整机。其技术路线图从电集成到光电集成再到量子互联,重点探索QPU作为异构算力接入现有算力基础设施。
NVIDIA 推出 Personal AI Router(PAIR)测试版,可将局域网内多台电脑的推理能力聚合,自动把 AI 请求分发到各节点,主要面向本地多智能体工作负载。PAIR 通过代理接收请求、识别引擎与模型需求并选择合适节点执行,兼容 Ollama 和 LM Studio,无需改动现有架构。NVIDIA 演示显示,结合 RTX Spark、DGX
llama.cpp 发布 b10909 版本,主要重构 Metal 后端的算子融合机制,将所有可融合模式统一到单张融合表(ggml-metal-fuse.cpp),供图优化器和算子编码器共用。修复了融合模式中输出索引使用相对索引导致 norm/MUL 融合被静默禁用、token 生成性能回退约 5% 的问题。新增 gated delta net 与 KV c
llama.cpp 发布 b10908 版本,主要修复 Metal 后端中 iq mul mv 系列内核在 ne00 < 1024 时的线程闲置问题。改动将 #28086 的行切分方案推广到 iq1 s、iq1 m、iq2 xxs、iq2 xs、iq2 s 和 iq3 s 六个内核,并顺带优化了 src0 行指针偏移与 offset0 的折叠处理。该版本同时
llama.cpp 发布 b10903 版本,修复了 Vulkan 后端 argsort 中的竞态条件和越界访问问题(PR #28705),其中越界访问可能解释 CI 中的失败。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译二进制包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。
戴尔技术团队发表论文,提出跨部署栈的AI推理优化统一分析框架。作者将部署分解为模型层(量化、剪枝、蒸馏)、编译器层(图融合、布局优化、内核自动调优)和系统层(动态批处理、准入控制、内存分层)三层分类法,并将部署形式化为精度、延迟、吞吐、内存和能耗的多目标约束优化问题。论文还提出证据协议以解决现有基准测试条件不可比的问题,并综合了边缘平台与数据中心GPU的实证
llama.cpp 发布 b10901 版本,主要变更是 Vulkan 后端在上下文空闲时,ggml backend vk cpy tensor async 改用 CPU 写入方式。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译二进制包,覆盖 CPU、Vulkan、ROCm、OpenVINO、SYCL、CUDA
llama.cpp 发布 b10900 版本,主要变更是 Vulkan 后端使用 add alloc dep 以在 prefill 阶段启用 topk moe 融合(PR #28422)。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译二进制包,覆盖 CPU、Vulkan、ROCm、OpenVINO、SYCL、C
llama.cpp 发布 b10899 版本,主要针对 Vulkan 后端进行小 M 矩阵运算优化,面向 Qwen 模型。改动包括通过交换 A/B 优化 m=1 的 mul mat、允许小 M 场景使用 split k,并让 coopmat2 的小/中 tile 选择依赖 M 而非仅依赖 N。该版本同时提供 macOS、Linux、Windows、Andro
llama.cpp 发布 b10897 版本,主要更新是将 Windows ARM64 平台的 CUDA 13.4 构建从 Developer Preview 归档迁移到 13.4.1 GA 可再发行组件。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译二进制包,涵盖 CUDA、Vulkan、ROCm、OpenV
高通提前剧透了将在2026骁龙峰会上发布的新一代骁龙旗舰移动平台的核心技术升级,涵盖CPU、GPU、NPU三大模块面向智能体AI的全面进化。NPU方面推出新的Hexagon NPU、Element Accelerator和更大共享内存,并联合内存与模型厂商引入MoE架构;CPU方面Oryon成为业内首个最高主频达5GHz的移动CPU,并引入动态缓存架构Fle
NVIDIA 技术博客介绍其 NIM 2.0.12 全栈优化如何在 Nemotron 3 Ultra 上实现 2.5 倍并发用户提升。在 4xB200 硬件、64K 上下文、76% KV 复用、50 TPS/用户(20ms ITL)的 agentic 负载基准下,优化后吞吐从 718 tok/s 提升至 1,997 tok/s。优化来自精度与自动调优内核、张
llama.cpp 发布 b10893 版本,主要变更是提高 Add fusion 测试的容差(#28691)。该版本同时提供 macOS、iOS、Linux、Android、Windows 及 openEuler 等多平台预编译二进制包,覆盖 CPU、Vulkan、ROCm、OpenVINO、SYCL、CUDA 等多种后端。