llama.cpp 发布 b12219:opencl 后端补充 climits 头文件
llama.cpp 发布构建版本 b12219,主要变更是 opencl 后端补充包含 climits 头文件(PR #31935)。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO、OpenCL Adreno 及 Snapdragon NPU
公司与模型 · 英伟达的 AI 芯片与生态动态:GPU 新品、CUDA 生态、机器人平台与 AI 算力供给
关联由结构化实体与正文位置共同判定 · 最近刷新 2026-11-11 06:27
llama.cpp 发布构建版本 b12219,主要变更是 opencl 后端补充包含 climits 头文件(PR #31935)。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO、OpenCL Adreno 及 Snapdragon NPU
首届蚂蚁灵波具身大模型挑战赛公布决赛名单,15支战队从全球1855支队伍中晋级,将于11月14日至15日在上海张江进行48小时真机黑客松,基于LingBot-VLA 2.0开源预训练模型和松灵COBOT MAGIC设备完成从数据采集到真机部署的全流程。赛事初赛GPU投入增至350张、累计超34万卡时,体现产业界对具身大模型的关注。11月16日蚂蚁灵波还将举办
llama.cpp 发布构建版本 b12212,主要修复了 ggml-zdnn 后端发布二进制无法检测到后端库的问题(#31905),由 IBM 的 Aaron Teo 提交。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译包,涵盖 CUDA、Vulkan、ROCm、SYCL、Open
开发者 farbodtavakkoli 在 Hugging Face 发布了 OTel-2.0-Decision-26B-A4B-4bit,这是基于 Google Gemma 4 26B-A4B-it 的 4-bit W4A16 量化版本,面向分类、是/否问答和有序等级等类型化决策任务,通过读取答案标签概率而非生成文本给出结果。模型在 AMD MI350P
llama.cpp 发布 b12211 版本,主要变更是对 mtmd(多模态)模块进行重构:移除 clip.h,并将相关代码合并进 mtmd(PR #31865)。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。此次重构属于内部代码整
llama.cpp 发布 b12210 版本,主要变更为在 CPU 后端启用 SpacemiT IME2 MXFP4 稠密重打包(dense repack),该提交由 Codex 辅助完成。同时该版本照例提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译包,涵盖 CUDA、Vulkan、ROCm、
llama.cpp 发布 b12209 版本,主要变更为在 llamafile 中实现 bf16 与 q8 0 的 vxe 支持,由 IBM 的 Aaron Teo 提交。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 及 Snapdrago
llama.cpp 发布 b12206 版本,核心变更是 moe-cache 修复:确保 CPU 部分不会等待已缓存的专家(#31888)。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。此次更新属于推理框架的常规迭代,主要影响 Mo
llama.cpp 发布 b12202 版本,核心改动是让 llama 与 mtmd 遵循 ggml prec set acc 调用的参考精度:GLM4 系列的下投影与输出投影、MiMoVL 视觉矩阵乘、Qwen3-TTS 说话人编码器 conv1d 改为 GGML PREC BF16,而 DeepSeek V4/V4.1 路由器和 MiniMax-M3 索
llama.cpp 发布构建版本 b12201,主要变更是投机解码(speculative decoding)中不再将 MoE 缓存应用于草稿模型(draft model),对应 PR #31497。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台多后端的预编译二进制包,涵盖 CUDA、Vulkan、ROCm、SYCL
llama.cpp 发布构建版本 b12199,主要变更是 common 模块对 PEG 工具调用参数中的非法 UTF-8 进行清洗(#31861)。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台多后端的预编译二进制包,包括 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等。此次更新属于工具调用解析的
llama.cpp 发布 b12198 版本,主要变更是将服务端按请求的代理日志级别降为 trace,以减少日志噪音。该版本同时提供 macOS/iOS、Linux(含 CUDA、ROCm、Vulkan、SYCL、OpenVINO 等后端)、Android、Windows 及 UI 的多平台预编译包。此次更新属于常规构建发布,对终端用户影响有限,主要惠及使用
llama.cpp 发布构建版本 b12196,主要变更是 SYCL 后端在 CPY 操作中对 Q4 1、Q5 1 和 Q8 0 量化格式实现精确舍入(PR #31465)。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。此次更新属于
llama.cpp 发布 b12195 版本,主要变更是 SYCL 后端拒绝会超出显存的设备缓冲区分配(#31285)。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、OpenVINO、SYCL 及骁龙 NPU 等后端。此次更新属于常规构建发布,提升了 SYCL 场景下
llama.cpp 发布构建版本 b12194,主要包含针对 Hexagon NPU 后端的清理与优化:根据架构设置 N HVX 和 N THREADS 以避免过度分配,将追踪状态与辅助函数迁移到新的 htp-trace.h 头文件,清理 dcache 宏定义,并支持通过 build.py 启用 HTP DEBUG。同时修复了 CI 中的 Python 类型
llama.cpp 发布 b12193 版本,主要变更在 mtmd(多模态)模块:将 log-mel 特征计算移入 cgraph(计算图),并清理了 mtmd audio stft op 等冗余代码、补充了测试。同时该版本照例提供覆盖 macOS/iOS、Linux、Android、Windows 及多种后端(CUDA、Vulkan、ROCm、SYCL、Op
llama.cpp 发布 b12191 版本,为 MoE 缓存引入 CPU 分担机制:通过 --moe-cache-cpu-share 参数,将部分未命中专家在 CPU 上计算而非上传至设备,并新增 moe-cache-tune.py 调优脚本自动推荐缓存大小与 CPU 分担比例。该改动还调整了调度器与图构建逻辑,使 CPU 部分可异步执行、不阻塞设备计算,
Nous Research 对阿里巴巴的 Qwen3.8-27B 进行监督微调,使用约 5300 万 token 训练出 Arete-27B,将模型回答中的中国官方宣传比例从 22% 降至 0.9%,同时基本保持通用能力。团队用 803 条提示词、以 Grok 4.7 作为评判模型构建测试,称中国开源模型的政治倾向只是可被剥离的"薄层"。该模型的权重、测试集
llama.cpp 发布 b12187 版本,主要变更为在 WebGPU 后端实现 group norm(分组归一化)算子,包括新增 WebGPU 专用 CI 工作流、参数化数据类型、二维工作组调度以及 group norm 性能测试。该版本同时提供覆盖 macOS、iOS、Linux、Android、Windows 的多平台预编译包,涵盖 CUDA、Vul
llama.cpp 发布 b12186 版本,主要变更是为 Vulkan 后端的 decodeBuf 声明添加 readonly 修饰符(PR #31833),作者期望在未来驱动版本中借此获得性能提升。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台多后端(CUDA、ROCm、Vulkan、SYCL、OpenVINO