llama.cpp 发布 b11510:CUDA 新增循环 PAD 内核
llama.cpp 发布 b11510 版本,主要更新为 CUDA 后端新增循环 PAD 内核,以支持超过 65535 行或切片的张量填充操作。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译二进制包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后端。
技术方向 · 开源模型、框架与仓库动态:权重开放、社区项目、开源与闭源的力量对比 · 共 2115 条
只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。
llama.cpp 发布 b11510 版本,主要更新为 CUDA 后端新增循环 PAD 内核,以支持超过 65535 行或切片的张量填充操作。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译二进制包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后端。
LangChain 发布 langchain-openai 1.7.0 版本,相比 1.6.7 新增对 decisions api 的支持,并升级了 langgraph-sdk、pyjwt、urllib3 等依赖。该更新为使用 LangChain 调用 OpenAI 的开发者提供了新 API 能力与依赖维护。
llama.cpp 发布 b11509 版本,修复了 CUDA 后端中 CCCL 版本守卫在重大版本号滚动时失效的问题。原守卫分别比较主次版本号,导致 CCCL 4.x 及以上版本被误判为不满足条件,argsort 静默回退到 init offsets 路径,造成无警告的性能损失。修复改用 CCCL 打包整数版本号进行单次比较,并在 RTX 4070、CUD
开发者 mradermacher 在 Hugging Face 上发布了 Qwen3.8-Flash-Next-Uncensored 模型的 GGUF 静态量化版本,基于 orcarouter 的原始未审查模型。该仓库提供从 Q2 K 到 Q8 0 的多种量化文件及多模态补充文件,采用 Apache-2.0 许可,方便本地部署使用。
llama.cpp 发布 b11507 版本,主要变更是支持 MoE 缓存在多 GPU 间分布(PR #30112)。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。此举可提升大 MoE 模型在多卡环境下的推理效率。
Hugging Face 用户 Hob-forge 发布了 Aleph Alpha 的 78B 参数混合专家推理模型 Kolibri-1 的 GGUF 量化版本,包含 Q2 K 至 Q8 0 多种量化格式,支持德语和英语。由于 llama.cpp 尚未支持 kolibri1 架构,作者提供了补丁和预编译版本,并验证了量化模型与 PyTorch 参考实现的对齐
Strands Agents SDK 发布 harness-cli v0.2.0,主要新增 MCP 工具客户端访问器、vended 子代理工具、双向流式 API 正式版(含取消、工具调用展示、语音与文本共享控制台等),并修复 Gemini、Anthropic、Bedrock、OpenAI 等多模型适配问题及会话恢复、缓存令牌统计等缺陷。该版本还包含 Type
Strands Agents SDK 发布 harness-python v0.2.0,主要新增双向流式(bidi)API 正式毕业、vended subagent 工具、MCP 工具客户端访问器、多智能体策略迁移至 SDK、Agent.shutdown() 清理机制等特性。同时修复了嵌套 agent-as-tool 中断恢复、MCP 连接断开挂起、缓存 t
Strands Agents SDK 发布 Python 版 v1.59.0,新增 MCP 工具客户端访问器和 vended 子代理工具两项功能。修复涵盖 Anthropic 缓存写入、Gemini 429 限流分类、嵌套 agent-as-tool 中断恢复等问题,并更新了多智能体、MCP、AgentCore 等文档。
llama.cpp 发布 b11503 版本,主要更新是将内置的 cpp-httplib 依赖升级到 0.60.1(由 Adrien Gallouët 提交,PR #30134)。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包,支持 CPU、CUDA、Vulkan、ROCm、
llama.cpp 发布 b11501 版本,主要更新为针对 SYCL 后端的 FWHT(快速沃尔什-哈达玛变换)优化(PR #29605)。该版本同时提供覆盖 macOS/iOS、Linux、Windows、Android 及 openEuler 的多平台预编译二进制包,涵盖 CPU、CUDA、Vulkan、ROCm、OpenVINO、SYCL 等多种后端
llama.cpp 发布 b11500 版本,主要修复了 hex-mmadd 在融合 bias-add 时未假设对齐读写的问题(PR #30133)。该版本同步提供 macOS、iOS、Linux、Android、Windows 等多平台预编译二进制包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后端。
llama.cpp 发布 b11499 版本,主要变更是 CUDA 后端在 roll 操作中改用字节步长(byte strides),以支持非连续的 ROLL 操作。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译二进制包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。
llama.cpp 发布 b11498 版本,主要修复了 CUDA 后端中 norm 系列 kernel 在 ne[2]/ne[3] 超过 grid 维度限制时的问题(PR #28175)。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译二进制包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO
StandardThinking 在 Hugging Face 发布了 StandardOne-8B-GGUF 的 v2.2 版本,基于 Ministral 3 8B 文本模型与 Pixtral 视觉塔(mistral3 架构),提供从 BF16 到 IQ2 M 共九种量化文件及视觉投影器。更新为九个语言模型文件新增了决策元数据,使其支持 llama.cpp
StandardThinking 在 Hugging Face 发布了 StandardOne-3B-GGUF,这是基于 Ministral 3 3B 文本模型与 Pixtral 视觉塔(mistral3 架构)的 GGUF 量化版本,供 llama.cpp 使用。该仓库更新至 v2.2 权重,并新增决策元数据,使全部九个语言模型文件支持 llama.cpp
llama.cpp 发布 b11496 版本,主要变更是为 SYCL 后端引入通过固定环形缓冲区(pinned ring buffer)分阶段进行模型加载时的批量上传(PR #29608)。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包,涵盖 CPU、CUDA、Vulkan、
llama.cpp 发布 b11495 版本,为 reranker 模型新增 classifier activation 支持,将 classifier 的 gelu 映射为 gelu erf 并接受 tanh,同时把默认激活函数设为 tanh,ModernBERT 则回退到 gelu erf。该改动提升了 reranker 类模型在 llama.cpp 中
Crowdstrike 报告称,一名疑似讲中文的攻击者利用 AI 驱动的黑客工具 ARTEX,在 2026 年 9 月底至 10 月初入侵多家韩国金融机构,仅新韩银行就有超过 2.5 万条含姓名、联系方式、收入和信用额度的记录被窃。ARTEX 是 7 月发布在 GitHub 上的中国开源自动化渗透测试工具,背后使用 DeepSeek v4.1-flash、G
llama.cpp 发布 b11494 版本,主要更新为 ggml-cuda 后端中 GDN 状态列的 warp 分配优化,将每 warp 的 GDN 状态列数从 2 提升至 4,并在 S v=128 时默认使用 4 列。该版本同时提供覆盖 macOS、Linux、Windows、Android 等多平台及 CUDA、Vulkan、ROCm、SYCL、Ope