llama.cpp 发布 b12132:common 改用 generic string()
llama.cpp 发布 b12132 版本,主要变更是 common 模块移除 u8path() 并改用 generic string(),由 Hugging Face 的 Adrien Gallouët 提交。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、SYCL
公司与模型 · 英伟达的 AI 芯片与生态动态:GPU 新品、CUDA 生态、机器人平台与 AI 算力供给
关联由结构化实体与正文位置共同判定 · 最近刷新 2026-11-11 06:27
llama.cpp 发布 b12132 版本,主要变更是 common 模块移除 u8path() 并改用 generic string(),由 Hugging Face 的 Adrien Gallouët 提交。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、SYCL
llama.cpp 发布 b12131 版本,主要变更是 server 模块移除 u8path() 并改用 generic string(),由 Hugging Face 的 Adrien Gallouët 提交(#31682)。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、R
llama.cpp 发布 b12129 版本,主要变更是重新启用 AMD 专有驱动 26.10.1 及以上版本上的大型 coopmat matmul 配置(PR #31587)。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译包,包含 CUDA、Vulkan、ROCm、SYCL、Ope
llama.cpp 发布 b12128 版本,主要修复 TOPK MOE 测试因路由边界近似并列导致的 CI 不稳定问题。修复方式改为通过反演门控函数构造 logits,使各后端上的专家与分组决策间隔一个网格步长,避免浮点 ulp 差异引发误判。同时该版本提供 macOS、Linux、Windows、Android 等多平台预编译包,覆盖 CUDA、Vulk
微软 Semantic Kernel 发布 Python 1.47.0 版本,要求 Python 3.11 及以上,正式移除对 Python 3.10 的支持,CI 覆盖扩展至 3.14。该版本集中修复了 OpenAPI 路径匹配、Google AI 嵌入批量请求、Mistral AI 兼容性、MCP 初始化与可选参数、Redis 向量搜索、SQL Serv
llama.cpp 发布 b12124 版本,主要变更是为 OpenCL 后端增加对非连续(non-contig)sigmoid 的支持(PR #31687,由高通 Li He 参与贡献)。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO、Op
llama.cpp 发布 b12123 版本,主要变更为 OpenCL 后端新增 DSV4 HC PRE 与 DSV4 HC POST 支持,并改进 dsv4 hc post 实现,由高通(Qualcomm)工程师参与贡献。该版本同时提供 macOS、Linux、Windows、Android 等多平台多后端(CUDA、Vulkan、ROCm、SYCL、Op
韩国公司 SKT 在 Hugging Face 发布 A.X K2,这是一个从零训练的大规模 MoE 语言模型,总参数 688B、每 token 激活 33B,是 A.X K1 的继任者。模型采用 Think-Fusion 训练方案,在单一模型中同时支持思考与非思考模式,并原生使用 FP8 训练、以块缩放 FP8 格式发布检查点。该模型属于韩国政府主权 AI
美国中期选举后民主党全面控制国会,数据中心(AI算力设施)成为选举议题。NBC出口民调显示超半数选民认为AI弊大于利,近80%反对在自家社区建数据中心,约60%称该议题是投票重要因素。俄亥俄、得州等多州反对数据中心的候选人胜选,Meta原计划建厂的俄亥俄县已通过数据中心禁令。分析人士预计将出现更多建设暂停令、要求数据中心自付电网升级费用,Sanders与Oc
Cerebras CEO 发文回应做空机构 Culper Research 的报告,该报告称其晶圆约两年就会损耗。Cerebras 否认这一说法,称从未使用报告所指的 PariPoser 材料,并解释其通过渐进供电、晶圆温度均匀、柔性连接等专利组装方案解决热膨胀问题。公司援引台积电 105°C 下 10 年认证及现场数据称,CS-3 晶圆平均结温低于 65°
The Verge AI 发表评论文章,批评埃隆·马斯克在中期选举中花费约4.46亿美元却收效甚微,其中4700万美元用于反对德州民主党人James Talarico,但Talarico仍以55%得票率获胜。文章认为马斯克因沉迷X平台而脱离普通民众,并指出美国存在跨党派的反数据中心情绪,反映公众对科技行业的不满。文章还列举了这笔钱的其他消费选项,并提到德州新
TechCrunch 的 Equity 播客采访了 Hugging Face 首席政策官兼战略高级副总裁 Irene Solaiman,讨论企业在开源 AI 模型上构建应用时需考虑的成本、风险与权衡。话题包括初创公司、企业和政府为降低成本转向开源模型、免费模型的价值捕获问题、美国是否需要 Nvidia 等资金雄厚的参与者打造开源前沿模型以应对中国开源模型,以
Hugging Face 博客介绍多教师在线策略蒸馏(MOPD)技术,该技术通过为每个领域训练一个 RL 专家,再将多个专家融合回单一模型,解决单次 RL 训练难以同时提升多领域能力的难题。小米、DeepSeek、Moonshot、NVIDIA、Liquid AI、Mistral 等实验室已采用该技术构建模型。TRL 现已支持 MOPD,AsyncDisti
llama.cpp 发布 v0.9.0,新增 OCP FP8 E4M3 量化支持、提升多序列推理统一 KV 缓存效率的 flash attn ext rows 算子,以及通用批量张量拷贝 API。该版本新增 Clover、Limite、Metis-1.6、Mistral Large 4 四种架构支持,扩展 Chatterbox TTS、Nemotron 3.
llama.cpp 发布 b12110 版本,将版本号提升至 0.9.0 并更新作者信息。该版本提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包,包含 CUDA、Vulkan、ROCm、OpenVINO、SYCL 等多种后端,以及面向骁龙平台的 CPU/GPU/NPU 构建。
llama.cpp 发布 b12109 版本,本次更新仅包含与 ggml 的同步(sync : ggml)。该版本为 macOS、iOS、Linux、Android、Windows 及 openEuler 等多个平台提供预编译二进制包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO、OpenCL 等多种后端,并附带 UI 包。此次发布属于
llama.cpp 发布 b12102 版本,核心改动在 ggml 后端:视图(view)的边界检查改为按 stride 实际触及的字节数计算,修复了行重叠视图被误判、宽 stride 视图越界却通过检查的问题;同时要求带 stride 的视图起始元素在 dim 0 上连续。delta net 的卷积窗口改为一次性按全部行创建。该版本同步提供 macOS、L
llama.cpp 发布 b12098 版本,主要更新是 mtmd 模块对 qwen3-vl 视频提示格式提供了准确支持(PR #31619)。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制,涵盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后端。此次更
llama.cpp 发布 b12097 版本,在 model 与 mtmd 模块中新增 Chatterbox TTS 语音合成支持,并加入内置音色功能,同时清理了冗余代码。该版本同步提供 macOS、iOS、Linux、Android、Windows 等多平台多后端(CUDA、Vulkan、ROCm、SYCL、OpenVINO 等)的预编译二进制包。此次更新
llama.cpp 发布 b12096 版本,主要变更为在 Hexagon 后端新增 TOP K MASK 算子,并简化了该 Hexagon 内核的实现、避免重复主机端配置。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台多后端(CUDA、Vulkan、ROCm、SYCL、OpenVINO、Hexagon NPU 等)