LiteLLM 发布 v1.103.2 并说明 Docker 镜像签名验证
LiteLLM 发布 v1.103.2 版本,该版本为 stable/1.103.x 分支的补丁更新,主要将多个修复(涉及 proxy 与 Anthropic 相关改动)回合移植到稳定分支。同时官方说明所有 LiteLLM Docker 镜像均使用 cosign 签名,并提供了通过固定 commit hash 或 release tag 验证镜像签名的命令。
技术方向 · 开源模型、框架与仓库动态:权重开放、社区项目、开源与闭源的力量对比 · 共 2115 条
只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。
LiteLLM 发布 v1.103.2 版本,该版本为 stable/1.103.x 分支的补丁更新,主要将多个修复(涉及 proxy 与 Anthropic 相关改动)回合移植到稳定分支。同时官方说明所有 LiteLLM Docker 镜像均使用 cosign 签名,并提供了通过固定 commit hash 或 release tag 验证镜像签名的命令。
LiteLLM 发布 v1.101.4 版本,该版本为 stable/1.101.x 分支的补丁更新,主要将 #41941、#41880、#43956 等改动回合并切出新版本。发布说明同时强调所有 LiteLLM Docker 镜像均使用 cosign 签名,并提供了基于固定 commit hash 和 release tag 两种验证镜像签名的方式。
llama.cpp 发布 b11312 版本,主要修复了 WebGPU 后端中 SSM SCAN 的绑定别名问题(#29750)。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译二进制包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后端。
llama.cpp 发布 b11311 版本,主要变更是将 ggml-opencl 后端中的 alloca() 替换为 std::vector,由 Adrien Gallouët 提交。该版本同时提供覆盖 macOS、iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包,支持 CUDA、Vulkan、ROCm、S
Viggle 在 Hugging Face 上发布了 Qwen-Image-2.1-viggle-turbo v0.2.1,这是基于 Qwen/Qwen-Image-2.1 的少步蒸馏 LoRA 适配器,采用分布匹配蒸馏(DMD)训练。它支持文生图和指令驱动编辑,仅需 6 次 transformer 前向(而非基座的 40 步)且无需无分类器引导,端到端约快
llama.cpp 发布 b11310 版本,修复了 CUDA 后端中 iq4 nl 反量化行内核的越界问题。当行长度短于 QK K 时,起始位置超出行尾的线程会读写越界,新代码通过跳过这些子块来避免内存越界,对 QK K 整数倍的行无影响。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译包。
llama.cpp 发布 b11309 版本,主要针对 Hexagon NPU 后端优化了 ALLREDUCE 集合通信操作,新增对 safe scatter 模式的支持,并重写实现以消除寄存器溢出。该改动由高通工程师 Max Krasnyansky 参与贡献,旨在提升骁龙平台(Hexagon NPU)上多设备推理的通信效率。版本同时提供覆盖 macOS、L
llama.cpp 发布 b11308 版本,修复了命令行下载 mmproj 参数的问题,并为此新增了参数解析测试。该版本同时提供覆盖 macOS、iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包,支持 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后端。
llama.cpp 发布 b11307 版本,核心改动是修复推测解码(speculative decoding)中层输入(layer inputs)的批次顺序问题,保留原始批次顺序,并恢复未掩码 NextN 嵌入的 token 顺序。改动同时兼容 tensor split,并覆盖多种 KV 布局与 CUDA 设备的回归测试。该版本提供 macOS、Linux
llama.cpp 发布 b11306 版本,主要更新是 test-llama-archs 测试中切换 causal attn 标志以捕获图结构变化,用于检测依赖该标志的图形状在 GGML SCHED NO REALLOC 下导致的重新分配中止问题,编码类架构跳过该测试。同时提供 macOS、Linux、Windows、Android 等多平台多后端的预编译
llama.cpp 发布 b11304 版本,主要修复了训练过程中 KV 缓存的处理问题(PR #28520)。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包,支持 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后端。
llama.cpp 发布 b11303 版本,主要变更是将剩余示例迁移到 llama batch ext,并新增线程安全测试、移除 common batch staged。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译二进制,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。
Google ADK JavaScript 的 integrations 包发布 v2.2.0 版本,主要变更为同步 adk 版本,并将工作区依赖 @google/adk 从 ^2.1.0 升级到 ^2.2.0。该版本未包含新功能或破坏性变更说明,属于常规依赖同步更新。
Google 发布 ADK JavaScript 开发工具包 devtools v2.2.0,主要修复 CLI 相关问题,包括 adk 入口点命令 promise 未等待、adk create 中 Vertex 区域提示未从 --region 初始化、adk deploy agent engine 未接入 --staging bucket 参数。同时将 ad
llama.cpp 发布 b11299 版本,主要修复 CLI 在 stdin 到达 EOF 时的退出行为。此前 Windows 上简单输入读取器在 stdin EOF 时会向控制台所有进程广播 CTRL C EVENT,导致监督代理等无关进程被杀;POSIX 及高级读取器则会无限循环打印提示符。本次改动取消该广播,将空读取视为 EOF,并修复了单独输入“/
llama.cpp 发布 b11298 版本,主要新增对 mimo 模型 dflash 的支持,包括转换和特征提取功能(PR #29650),由 Sigbjørn Skjæret 参与贡献。该版本同时提供覆盖 macOS、iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包,支持 CUDA、Vulkan、ROCm
llama.cpp 发布 b11297 版本,主要更新为 jinja 模板引擎支持强制类型转换的数组属性(coerced array attributes),并补充了相应测试。该版本同时提供覆盖 macOS、iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包,支持 CUDA、Vulkan、ROCm、SYCL、O
llama.cpp 发布 b11295 版本,主要修复了 Models Backend 检查中的 CI 问题:通过缩短 hrm text fixture,将原本在 8 个缓存槽上循环两个块导致的 fp16 误差累积降到 1e-4 NMSE 阈值以下,从而解决 Vulkan T4 和 WebGPU 任务失败。该版本同时提供覆盖 macOS、Linux、Wind
llama.cpp 发布 b11294 版本,核心变更是新增 llama prefetch rows 功能,用于按行预取模型数据,并支持 Windows 平台(由 @praneshgo 贡献的移植代码)。该预取仅在 lazy 模式下启用,同时避免在模型代码中直接暴露 llama-mmap,改由 llama-impl 路由。版本附带 macOS、Linux、W
Hugging Face Transformers 发布 5.18.0 版本,新增四个模型支持:NVIDIA 的 Nemotron 3 Diarization 流式说话人分离模型、NemotronH Omni 多模态推理模型、NAVER 的 HyperCLOVAX Vision V2 视觉语言模型,以及 GTE 文本表示与重排序模型。该版本还包含多项破坏性变