返回主题地图

开源生态

技术方向 · 开源模型、框架与仓库动态:权重开放、社区项目、开源与闭源的力量对比 · 共 2115 条

只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。

10月1日周四 · 20 条
正文结构化主题已通过公开置信门槛
LiteLLM Releases一手来源开源

LiteLLM 发布 v1.103.2 并说明 Docker 镜像签名验证

LiteLLM 发布 v1.103.2 版本,该版本为 stable/1.103.x 分支的补丁更新,主要将多个修复(涉及 proxy 与 Anthropic 相关改动)回合移植到稳定分支。同时官方说明所有 LiteLLM Docker 镜像均使用 cosign 签名,并提供了通过固定 commit hash 或 release tag 验证镜像签名的命令。

正文结构化主题已通过公开置信门槛
LiteLLM Releases一手来源开源

LiteLLM 发布 v1.101.4 并说明镜像签名验证

LiteLLM 发布 v1.101.4 版本,该版本为 stable/1.101.x 分支的补丁更新,主要将 #41941、#41880、#43956 等改动回合并切出新版本。发布说明同时强调所有 LiteLLM Docker 镜像均使用 cosign 签名,并提供了基于固定 commit hash 和 release tag 两种验证镜像签名的方式。

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp 发布 b11312:修复 WebGPU SSM SCAN 绑定别名

llama.cpp 发布 b11312 版本,主要修复了 WebGPU 后端中 SSM SCAN 的绑定别名问题(#29750)。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译二进制包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后端。

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp 发布 b11311:ggml-opencl 用 std::vector 替换 alloca()

llama.cpp 发布 b11311 版本,主要变更是将 ggml-opencl 后端中的 alloca() 替换为 std::vector,由 Adrien Gallouët 提交。该版本同时提供覆盖 macOS、iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包,支持 CUDA、Vulkan、ROCm、S

正文结构化主题已通过公开置信门槛
Hugging Face New and Trending Models一手来源模型发布

Viggle 发布 Qwen-Image-2.1 少步蒸馏 LoRA v0.2.1

Viggle 在 Hugging Face 上发布了 Qwen-Image-2.1-viggle-turbo v0.2.1,这是基于 Qwen/Qwen-Image-2.1 的少步蒸馏 LoRA 适配器,采用分布匹配蒸馏(DMD)训练。它支持文生图和指令驱动编辑,仅需 6 次 transformer 前向(而非基座的 40 步)且无需无分类器引导,端到端约快

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11310 修复 CUDA iq4 nl 反量化越界

llama.cpp 发布 b11310 版本,修复了 CUDA 后端中 iq4 nl 反量化行内核的越界问题。当行长度短于 QK K 时,起始位置超出行尾的线程会读写越界,新代码通过跳过这些子块来避免内存越界,对 QK K 整数倍的行无影响。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译包。

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11309:优化 Hexagon ALLREDUCE 并支持 safe scatter

llama.cpp 发布 b11309 版本,主要针对 Hexagon NPU 后端优化了 ALLREDUCE 集合通信操作,新增对 safe scatter 模式的支持,并重写实现以消除寄存器溢出。该改动由高通工程师 Max Krasnyansky 参与贡献,旨在提升骁龙平台(Hexagon NPU)上多设备推理的通信效率。版本同时提供覆盖 macOS、L

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp 发布 b11308:修复 CLI 下载 mmproj 参数

llama.cpp 发布 b11308 版本,修复了命令行下载 mmproj 参数的问题,并为此新增了参数解析测试。该版本同时提供覆盖 macOS、iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包,支持 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后端。

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11307:修复推测解码层输入批次顺序

llama.cpp 发布 b11307 版本,核心改动是修复推测解码(speculative decoding)中层输入(layer inputs)的批次顺序问题,保留原始批次顺序,并恢复未掩码 NextN 嵌入的 token 顺序。改动同时兼容 tensor split,并覆盖多种 KV 布局与 CUDA 设备的回归测试。该版本提供 macOS、Linux

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp 发布 b11306:测试切换 causal attn 捕获图形状变化

llama.cpp 发布 b11306 版本,主要更新是 test-llama-archs 测试中切换 causal attn 标志以捕获图结构变化,用于检测依赖该标志的图形状在 GGML SCHED NO REALLOC 下导致的重新分配中止问题,编码类架构跳过该测试。同时提供 macOS、Linux、Windows、Android 等多平台多后端的预编译

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp 发布 b11304:修复训练中 KV 处理

llama.cpp 发布 b11304 版本,主要修复了训练过程中 KV 缓存的处理问题(PR #28520)。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包,支持 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后端。

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp 发布 b11303:示例迁移至 llama batch ext

llama.cpp 发布 b11303 版本,主要变更是将剩余示例迁移到 llama batch ext,并新增线程安全测试、移除 common batch staged。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译二进制,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。

正文结构化主题已通过公开置信门槛
Google ADK JavaScript Releases一手来源开源

Google ADK JS integrations 发布 v2.2.0

Google ADK JavaScript 的 integrations 包发布 v2.2.0 版本,主要变更为同步 adk 版本,并将工作区依赖 @google/adk 从 ^2.1.0 升级到 ^2.2.0。该版本未包含新功能或破坏性变更说明,属于常规依赖同步更新。

正文结构化主题已通过公开置信门槛
Google ADK JavaScript Releases一手来源开源

Google ADK JS devtools 发布 v2.2.0 修复 CLI 与安全问题

Google 发布 ADK JavaScript 开发工具包 devtools v2.2.0,主要修复 CLI 相关问题,包括 adk 入口点命令 promise 未等待、adk create 中 Vertex 区域提示未从 --region 初始化、adk deploy agent engine 未接入 --staging bucket 参数。同时将 ad

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11299:修复 CLI 在 stdin EOF 时的退出行为

llama.cpp 发布 b11299 版本,主要修复 CLI 在 stdin 到达 EOF 时的退出行为。此前 Windows 上简单输入读取器在 stdin EOF 时会向控制台所有进程广播 CTRL C EVENT,导致监督代理等无关进程被杀;POSIX 及高级读取器则会无限循环打印提示符。本次改动取消该广播,将空读取视为 EOF,并修复了单独输入“/

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11298 发布:新增 mimo dflash 支持

llama.cpp 发布 b11298 版本,主要新增对 mimo 模型 dflash 的支持,包括转换和特征提取功能(PR #29650),由 Sigbjørn Skjæret 参与贡献。该版本同时提供覆盖 macOS、iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包,支持 CUDA、Vulkan、ROCm

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp 发布 b11297:jinja 支持强制数组属性

llama.cpp 发布 b11297 版本,主要更新为 jinja 模板引擎支持强制类型转换的数组属性(coerced array attributes),并补充了相应测试。该版本同时提供覆盖 macOS、iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包,支持 CUDA、Vulkan、ROCm、SYCL、O

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp 发布 b11295:修复 Models Backend 检查

llama.cpp 发布 b11295 版本,主要修复了 Models Backend 检查中的 CI 问题:通过缩短 hrm text fixture,将原本在 8 个缓存槽上循环两个块导致的 fp16 误差累积降到 1e-4 NMSE 阈值以下,从而解决 Vulkan T4 和 WebGPU 任务失败。该版本同时提供覆盖 macOS、Linux、Wind

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp 发布 b11294:新增行预取并支持 Windows

llama.cpp 发布 b11294 版本,核心变更是新增 llama prefetch rows 功能,用于按行预取模型数据,并支持 Windows 平台(由 @praneshgo 贡献的移植代码)。该预取仅在 lazy 模式下启用,同时避免在模型代码中直接暴露 llama-mmap,改由 llama-impl 路由。版本附带 macOS、Linux、W

正文结构化主题已通过公开置信门槛
Transformers Releases一手来源开源

Transformers 5.18.0 发布:新增 Nemotron、HyperCLOVAX 等模型

Hugging Face Transformers 发布 5.18.0 版本,新增四个模型支持:NVIDIA 的 Nemotron 3 Diarization 流式说话人分离模型、NemotronH Omni 多模态推理模型、NAVER 的 HyperCLOVAX Vision V2 视觉语言模型,以及 GTE 文本表示与重排序模型。该版本还包含多项破坏性变