llama.cpp 发布 b11784:修复 SYCL IQ3 崩溃
llama.cpp 发布 b11784 版本,主要修复了 SYCL 后端下 IQ3 量化格式导致的崩溃问题(PR #30604)。该版本同步提供 macOS/iOS、Linux(含 CUDA、ROCm、Vulkan、SYCL、OpenVINO 等后端)、Android、Windows 及 openEuler 的多平台预编译二进制包和 UI 包。此次更新属于常
公司与模型 · 英伟达的 AI 芯片与生态动态:GPU 新品、CUDA 生态、机器人平台与 AI 算力供给
关联由结构化实体与正文位置共同判定 · 最近刷新 2026-11-11 07:16
llama.cpp 发布 b11784 版本,主要修复了 SYCL 后端下 IQ3 量化格式导致的崩溃问题(PR #30604)。该版本同步提供 macOS/iOS、Linux(含 CUDA、ROCm、Vulkan、SYCL、OpenVINO 等后端)、Android、Windows 及 openEuler 的多平台预编译二进制包和 UI 包。此次更新属于常
llama.cpp 发布 b11782 版本,修复了 server 在 n 1 时 usage.completion tokens 统计偏少的问题(由 Copilot 辅助完成)。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台多后端(CUDA、Vulkan、ROCm、SYCL、OpenVINO 等)的预编译二进制包。
llama.cpp 发布 b11778 版本,主要变更是新增对 Nemotron-3(.5)-Embed 嵌入模型的支持(PR #30877)。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译包,包含 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后端。此次更新使
llama.cpp 发布 b11777 版本,主要变更是将 Qwen 模型的输出从 3D 重塑为 2D,并移除最终 reshape、修正注释(PR #30823)。同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译包,涵盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。
llama.cpp 发布 b11776 版本,其 server 组件新增在投机解码(speculative decoding)路径下返回 logprobs 的支持(PR #27196),并补充了回归测试,验证被接受的草稿 token 会报告目标模型的 logprobs,与未启用草稿的基线对比。该修复解决了 master 分支上 top logprobs 为空
llama.cpp 发布构建版本 b11772,主要修复 mtmd 模块中 gemma 4 的 FFN 激活函数问题(PR #30882)。该版本同步提供 macOS/iOS、Linux(含 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端)、Android、Windows 及 UI 等多平台预编译包。此次更新属于开源推理框架的常规缺陷修
llama.cpp 发布 b11769 版本,修复了 server 路由未将客户端断连完整传递给子进程、导致响应等待可能延迟取消的问题,并调整了相关测试。该版本同时提供 macOS、Linux、Windows、Android 等多平台及 CUDA、Vulkan、ROCm、SYCL 等多种后端构建产物。
Anthropic 向美国国会提交了一份 AI 安全法案草案,规定当模型存在可预见的、迫在眉睫的风险——可能导致超过 50 人死亡或造成超过 10 亿美元财产损失,且风险源于生物武器、模型规避开发者控制或网络攻击时,可阻止该模型发布。草案要求由在美国商务部注册的独立评估机构进行风险评估,评估机构可由 AI 实验室付费但报酬不得与评估结果挂钩;评估机构发现风险
llama.cpp 发布 b11763 版本,主要针对 OpenCL 后端做优化:为小批量场景新增多个 GEMM 变体(q4 k dp4a、mul mm f16 f32 l4 lm 窄变体、gemv noshuffle q1 0 f32 单子组变体),修复 mul mv mxfp4 f32 flat 的越界读取,移除强制大 N 走 CPU 权重的限制,并按工
SF Compute CEO Evan Conrad 在 Latent Space 播客中介绍公司从转租 GPU 集群扩展为具备云运营能力的算力交易市场,强调「物理结算」——买家获得可用算力而非现金结算。他解释了如何通过匹配不同约束条件的订单让非标准化算力可交易,并讨论现货与远期定价、批处理与实时推理租赁的区别。Conrad 认为英伟达等拥有大型硬件或推理业
据 The Information 报道,OpenAI CEO Sam Altman 上周在内部向员工提出三种先进 AI 治理方案:仿照国际原子能机构(IAEA)设立国际监管机构、仿照 CERN 由主要实验室合并为单一联盟(称“Demis Plan”),以及由单一公司凭借自我改进 AI 积累经济优势并切断他人算力的极端情形(称“Eliezer Plan”)。
美国国土安全部禁止联邦民事机构使用中国实验室 DeepSeek 的 AI 技术,要求各机构从 IT 系统中移除现有 DeepSeek 产品且不得采购新产品。该命令还涵盖关联公司产品及基于 DeepSeek 实现的第三方服务,但未设定截止日期,也未说明具体安全担忧。此举依据 2018 年联邦采购供应链安全法律,背景是此前美国政府曾考虑对中国开放权重模型采取制裁
另有 1 家信源报道
llama.cpp 发布 b11755 版本,主要修复 Metal 后端在每 token 9 个专家场景下缺失的 MoE kernel 变体(#30610、#30699)。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。此次修复提升了
llama.cpp 发布 b11753 版本,主要变更是为 Tekken 和 GPT-4o 预分词器正则的前瞻断言添加 \p{M},以改进对组合附加符号的处理。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译二进制,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。
三星在韩国平泽建设大型半导体制造园区,以满足生成式AI带动的GPU专用高带宽内存芯片需求。园区已有三座晶圆厂全天候运转,第四座即将投产,第五座建设在2024年需求下滑时暂停后因AI热潮重启。报道称三星此举意在追赶国内竞争对手SK海力士,后者在高带宽内存市场领先,而台积电主导代工业务。
llama.cpp 发布 b11752 版本,主要修复测试中 MoE 路由器选择受后端噪声影响的问题:通过为每个专家填充步长为 2 的选择偏置斜坡,使 top-k 选择仅取决于专家索引,Beam 架构在 160 个种子下与 CPU 参考误差缩小至 4e-7。同时改进测试设备表,区分 Apple SoC 的 CPU 与 GPU 设备名。该版本同步提供 macO
llama.cpp 发布 b11751 版本,主要更新 Hexagon 后端:将 Snapdragon 工具链升级至 v0.8,并启用 Hexagon v85 架构支持。改动包括 CI 与构建脚本同步升级、新增用于部分 IoT 设备的 swiv Python 脚本、修复 flake8 警告、更新版本上限,以及让构建和运行脚本支持通过 adb 传输的 Ubun
llama.cpp 发布 b11750 版本,主要修复 SYCL 后端的编译器警告,包括缺失的函数原型、死代码和多余分号(PR #30271)。同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包,涵盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后端。此次更新属
llama.cpp 发布 b11748 版本,主要修复了 SYCL 后端在重排量化权重上 get rows 的问题(PR #30430)。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。此次更新属于推理框架的常规缺陷修复与构建发布,对
llama.cpp 发布 b11747 版本,主要变更是 mtmd(多模态)模块对齐 transformers 的 Qwen-VL 图像缩放处理逻辑(PR #30736)。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。此次更新提升了