llama.cpp 发布 b11606:简化 ggml 后端搜索路径错误处理
llama.cpp 发布 b11606 版本,主要变更是简化 ggml 后端的搜索路径错误处理(PR #28367),由 Adrien Gallouët 提交。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。
公司与模型 · 英伟达的 AI 芯片与生态动态:GPU 新品、CUDA 生态、机器人平台与 AI 算力供给
关联由结构化实体与正文位置共同判定 · 最近刷新 2026-11-11 07:16
llama.cpp 发布 b11606 版本,主要变更是简化 ggml 后端的搜索路径错误处理(PR #28367),由 Adrien Gallouët 提交。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。
Dyna Robotics 联合创始人兼首席科学家 Jason Ma 在 Latent Space 播客中介绍了 Dyna-2 世界动作模型及其后续物理机器人智能体 Dyna-2.1。Dyna-2 基于超过一百万小时人类视频预训练,结合未来视频预测与机器人动作生成,并声称在人类数据上呈现跨四个数量级的新缩放规律。Dyna-2.1 在餐厅折餐巾任务中实现 24
llama.cpp 发布 b11604 版本,主要变更是为 KleidiAI 后端新增 SME2 指令集下的 Q4 K 和 Q6 K 矩阵乘法支持,由 Arm 的 Charles Xu 提交。该版本同时提供覆盖 macOS、iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包,涵盖 CPU、CUDA、Vulkan
llama.cpp 发布 b11603 版本,主要变更是优化 Vulkan 后端在池化窗口较大时的 pool 2d 算子:当窗口大于一个 subgroup 时,改用整个 subgroup 计算每个输出。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台多后端的预编译二进制包。
llama.cpp 发布 b11602 版本,主要变更是 meta 后端在 arena 重新分配时重建所有子图(PR #30453),并回退了新增的测试用例。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译二进制,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。
llama.cpp 发布 b11601 版本,主要新增 Hexagon 后端可配置的 HTP DCVS/HMX 电源模式支持,通过 GGML HEXAGON POWER MODE 环境变量和 run.py 的 --hex-power-mode 标志进行控制,并保持 HTP 在 DCVS 电源配置下保持唤醒。该版本同时提供覆盖 macOS、Linux、Wind
llama.cpp 发布 b11600 版本,修复了 no-cache attention 中 KQ bias 的填充问题:此前 no-cache attention 会将 K、V 和 mask 填充到 256,但 T5 还会加入 [n tokens, n tokens] 的相对位置 bias,导致与 KQ 相加时维度不匹配;本次修复将 bias 用零填充到
llama.cpp 发布 b11598 版本,主要变更为为 laguna 系列模型加载 YaRN beta 元数据(PR #30331),该改动由 Codex 协助、Adam Caldwell 共同提交。版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包,涵盖 CPU、CUDA、V
llama.cpp 发布 b11594 版本,主要更新是 Vulkan 后端允许在 Windows 上让多个设备访问 GPU 可见的主机内存,并处理了空指针和启用条件等问题。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译包,覆盖 CUDA、ROCm、Vulkan、SYCL、OpenVINO 等后端。
IDC数据显示,2026年上半年英伟达在中国数据中心AI加速器市场份额降至34%,出货67.8万颗,同比下降44%;华为以28%份额、57.2万颗出货量紧随其后,高于去年同期的30余万颗。美国出口管制是这一变化的直接背景,黄仁勋称该政策迫使英伟达让出中国约500亿美元市场。上半年中国AI加速器总出货约200.8万颗,非GPU加速器出货101.6万颗、同比增长
Anthropic 发布报告称中国公司 Z.ai 于 8 月发布的开源模型 GLM-5.3 存在重大网络攻击风险,因其可被任何人自由下载和修改。文章梳理了开源与闭源模型之争:Nvidia CEO 黄仁勋主张美国发展更多开源模型,而 Anthropic 的 Dario Amodei 主张谨慎。支持者认为开源模型可防止权力过度集中、便于学术研究并降低成本,反对者
微软总裁布拉德·史密斯呼吁对AI进行紧急监管,认为牛奶和洗衣机等消费品受到的监督都比AI公司更多。他在BBC播客中称AI既是“武器也是工具”,正威胁全球网络安全,并认为英国比美国和欧盟更适合主导全球AI安全规则,因为英国AI安全研究所已能提前获取美国前沿实验室的模型。史密斯还提出应建立法律义务,在系统被失控AI代理入侵时通知相关机构,并支持AI产品发布前接受
llama.cpp 发布 b11573 版本,主要针对 Vulkan 后端进行优化:为 f16 累加打包 FMA 指令,并移除点积(dot product)算子;同时将 dot product 重命名为 dot product v2,并实现每行 f16 FMA 打包两行数据。该版本同步提供 macOS、Linux、Windows、Android 等多平台预编
llama.cpp 发布 b11572 版本,主要新增对 vllm d3 系列模型的支持,包括 pplx-decider 和 vllm d2,并更新了命名规则与更严格的校验逻辑。该版本同时提供覆盖 macOS、iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包,涵盖 CUDA、Vulkan、ROCm、SYCL、
llama.cpp 发布 b11565 版本,主要修复了 SYCL 后端在行尾处 DMMV 读取的越界问题(PR #29338)。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译二进制包,覆盖 CPU、CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。此次更新属于常规维护性发布,提升了 SYC
llama.cpp 发布 b11564 版本,主要针对 Vulkan 后端进行优化:为 CM2 量化块大小做专门处理,并改用三元表达式避免 switch 语句降级,以提升 CM2 matmul 性能。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译二进制,覆盖 CUDA、ROCm、Vulkan、SYCL、OpenVINO
llama.cpp 发布 b11562 版本,主要修复了源码拆分后在 32 位平台上 Vulkan 缓冲区日志的问题,将 vk::Buffer 流操作符移至共享头文件以便 ggml-vulkan-debug.cpp 可见。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译二进制包,覆盖 CPU、CUDA、Vulkan、RO
该研究首次系统评估了LLM智能体对随机硬件故障的韧性,在三个智能体基准上执行了6814次运行(2400+无故障、4300+注入随机双比特权重故障)。研究发现智能体执行会将模型级损坏转化为系统级结果:智能体可从故障输出中恢复并正确完成任务,但恢复会增加38.0%的平均输出token成本;部分故障产生语义上细微但重要的错误;在某些模型和场景下,故障还会改变安全与
Apple Machine Learning Research 发表论文提出 Minions,一个动态分布式虚拟 GPU 云系统,将多台 macOS 设备上闲置的 Apple Silicon GPU 聚合起来执行大规模机器学习推理任务。该系统提供灵活的 GPU 推理任务执行、容错能力和高效资源利用,使团队无需额外采购 GPU 即可利用现有硬件。作者表示,在集
TechCrunch 宣布其 Disrupt 2026 大会将在不到 48 小时后于旧金山 Moscone West 开幕,会期为 10 月 13 日至 15 日。大会预计吸引超过 10,000 名创始人、投资者和科技领袖,安排 250 多位演讲者和 200 多场会议,并展示 300 多家初创公司。演讲嘉宾包括 Rivian 的 RJ Scaringe、An