llama.cpp b12089 发布:新增 Metis-1.6 模型支持
llama.cpp 发布 b12089 版本,新增对 Metis-1.6 模型的支持(PR #31134,由 Claude 辅助完成)。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO、Snapdragon 等多种后端。此次更新扩展了 llam
公司与模型 · 英伟达的 AI 芯片与生态动态:GPU 新品、CUDA 生态、机器人平台与 AI 算力供给
关联由结构化实体与正文位置共同判定 · 最近刷新 2026-11-11 06:27
llama.cpp 发布 b12089 版本,新增对 Metis-1.6 模型的支持(PR #31134,由 Claude 辅助完成)。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO、Snapdragon 等多种后端。此次更新扩展了 llam
llama.cpp 发布 b12084 版本,主要变更为在 LFM3 中记录 layer inputs 以支持投机解码(spec dec)。该版本同步提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO、Snapdragon 等后端。此次更新属于开源推理框架
llama.cpp 发布 b12076 版本,修复了 Metal 后端 cpy kernel 在目标张量第 0 维非连续(如 permute dst = {1, 0, 2, 3})时使用隐式元素大小步长而非 args.nb0 寻址、导致写入错误地址的问题;该缺陷由新增的 test-backend-ops cpy 用例捕获,目标连续时寻址行为不变。同时该版本提
llama.cpp 发布 b12074 版本,主要变更是对 delta net base 的卷积状态进行重构:改为通过视图访问卷积状态,修复 sm tensor,并将卷积窗口的回滚槽位索引改为在主机端填充的 I32 输入,替代原先在设备端计算的 arange 与 argsort,同时 meta 后端不再需要为 ARANGE 做镜像拆分。该版本同步提供 mac
llama.cpp 发布 b12072 版本,核心改动是移除 llm attn mask 中冗余的 cnv,将 dspark 块掩码改为在输入填充阶段由 llm attn mask::block uniform 生成,从而消除 dflash 中的图级 reshape/repeat 操作。该版本同时提供 macOS、Linux、Windows、Android
受美国制裁与供应短缺影响,华为要求部分客户自行采购其新款AI芯片所需的HBM内存,实际上将采购推向黑市。走私者通过将HBM与低端处理器捆绑、经香港转运入境的方式规避美国出口规则,导致走私HBM3E单价一年内从数百美元涨至约4000美元,每颗AI芯片需6至8颗。韩国海关今年前五个月查获的贸易违规金额已达5.6亿美元,超过此前全年纪录,其中三分之一涉及芯片等战略
llama.cpp 发布 b12068 版本,主要变更是 chat 功能允许在 gpt-oss 最终 channel 之后指定约束类型(constraint type),对应 PR #31556。该版本同时提供 macOS/iOS、Linux、Android、Windows 及 openEuler 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、S
llama.cpp 发布构建版本 b12066,主要变更为在 WebGPU 后端新增 ARANGE 算子支持(PR #31455)。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO、OpenCL 等后端。此次更新属于开源推理框架的常规迭代,扩展
llama.cpp 发布 b12065 版本,修复了 kv-cache 的一个缺陷:当某个缓存共享另一个缓存的 cell(例如 gemma4 assistant 场景)且其序列尚未分配任何 cell 时(如服务器预热阶段),get n kv rows() 会返回 0,导致计算图回退到稠密 KQ mask 并触发调度器重新规划;后续使用更大 mask 的计算图
字节跳动Seed团队在9月底的研究中发现,DeepSeek-V4-Flash基础模型会因代码前无关Token长度变化,在正确答案与错误答案之间周期性切换,并将原因指向其CSA/HCA分块KV压缩机制带来的“相位敏感性”。雷峰网通过DeepSeek官方API对现役V4.1-Flash进行64组实测,未复现答案翻转,但观察到正确答案概率随填充长度波动。论文数据显
SGLang 发布 v0.5.23 版本,包含来自 257 位贡献者的 1007 个 PR。该版本新增 Muse Spark Open、MiniMax-M3.1-Flash、MiniCPM-V 4.7 等模型支持,并针对 DeepSeek-V4.1 在 GB300 上实现最高 1.5 倍 prefill 吞吐提升和约 28% 首 token 延迟降低。此外还
llama.cpp 发布 b12058 版本,主要修复了 imatrix 工具中 --nextn 参数导致的崩溃问题(#31522)。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译二进制包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后端。此次更新属于开源推理框架的常规缺陷修复与构
llama.cpp 发布构建版本 b12057,主要变更是简化 context 的 setter 接口(PR #29730)。该版本为 macOS/iOS、Linux、Android、Windows 及 openEuler 等多个平台提供预编译二进制包,覆盖 CPU、CUDA、Vulkan、ROCm、SYCL、OpenVINO、OpenCL 等后端,并附带
llama.cpp 发布 b12054 版本,主要变更是 ggml-zdnn 后端与主机共享缓冲区(由 IBM 的 Aaron Teo 提交,PR #31481)。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译包,涵盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等
llama.cpp 发布 b12053 版本,核心变更是 ggml 在所有 Apple 平台(含 iOS)上改用 vm allocate 替代 posix memalign 进行内存分配,并默认运行 test-host-buffer-release 测试。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译二进制包,
Google 发布 2026 年 10 月 AI 进展汇总:推出前沿推理模型 Gemini 4 Argon 并全球上线,两周后宣布面向长周期工程与网络安全防御的 Gemini 4 Carbon 进入预发布测试;同时发布实时交互世界模拟 Genie 4、智能健身追踪器 Fitbit Edge、开源多模态嵌入模型 EmbeddingGemma 2,并扩大 Syn
llama.cpp 发布构建版本 b12052,主要变更是为 OpenCL 后端新增 topk mask 支持(PR #31441)。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台、多后端(CUDA、Vulkan、ROCm、SYCL、OpenVINO、OpenCL Adreno 等)的预编译二进制包。此次更新属于开源
摩尔线程与无锡惠山招商集团、新石器达成战略合作,新石器计划在无锡(惠山)国产智算中心扩大自动驾驶模型训练规模,算力需求将达近万卡级。该中心一期部署2112张摩尔线程MTT S5000 GPU,已基本满载运行,算力使用率92.9%,付费算力占比59.7%,已有20多家客户测试或使用。实测显示MTT S5000在DeepSeek V4 Flash模型上SLA达标
llama.cpp 发布 b12047 版本,主要变更是 SYCL 后端 dmmv 代码清理:将 q8 0 reorder dmmv 合并进通用模板,并对非 K 量化与 K-quant 的 dmmv 启动器进行模板化。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台多后端(CUDA、Vulkan、ROCm、SYCL、O
llama.cpp 发布 b12032 版本,主要变更是 SYCL 后端尝试通过 PkgConfig 查找 LevelZero 的头文件与库。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。此次更新属于构建与后端适配层面的维护性发布,