SGLang 发布 v0.5.23：新增多模型支持与推理性能优化
SGLang 发布 v0.5.23 版本，包含来自 257 位贡献者的 1007 个 PR。该版本新增 Muse Spark Open、MiniMax-M3.1-Flash、MiniCPM-V 4.7 等模型支持，并针对 DeepSeek-V4.1 在 GB300 上实现最高 1.5 倍 prefill 吞吐提升和约 28% 首 token 延迟降低。此外还
开源生态
技术方向 · 开源模型、框架与仓库动态：权重开放、社区项目、开源与闭源的力量对比 · 共 2104 条
只展示置信度达到公开门槛且每篇排名前三的主题标签，降低泛化误贴。
11月3日周二 · 14 条
正文结构化主题已通过公开置信门槛
正文结构化主题已通过公开置信门槛
Vercel AI SDK 发布 ai@7.0.161 补丁
Vercel AI SDK 发布 ai@7.0.161 补丁版本，修复了 DefaultGeneratedFile、data-content/file-part-data 以及 cloneModelMessages 中对跨 realm 的 Uint8Array、ArrayBuffer 和循环结构的处理问题，并同步更新了 @ai-sdk/provider-ut
正文结构化主题已通过公开置信门槛
Clover-35B-A3B-Preview 扩散模型 GGUF 量化版发布
Hugging Face 用户 maternion 将 DiffuSpace 的 Clover-35B-A3B-Preview 模型转换为 GGUF 格式并发布，提供 Q8 0 至 Q3 K S 共六种量化版本。该模型是 35B 参数、每 token 约 3B 激活参数的混合专家扩散语言模型，支持 128K 上下文，需 llama.cpp 主线 commit
正文结构化主题已通过公开置信门槛
llama.cpp 发布 b12058：修复 imatrix --nextn 崩溃
llama.cpp 发布 b12058 版本，主要修复了 imatrix 工具中 --nextn 参数导致的崩溃问题（#31522）。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译二进制包，覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后端。此次更新属于开源推理框架的常规缺陷修复与构
正文结构化主题已通过公开置信门槛
IFM 发布 K2-Horizon-7B 开源模型
IFM 在 Hugging Face 发布 K2-Horizon-7B，这是 K2-Horizon 系列的中等规模稠密解码器模型，拥有 512K 原生上下文窗口，并采用 Apache-2.0 开源许可。模型提供中间检查点、Diffusion Adapters 以加速推理，且训练数据、配方、代码与评测资源全部公开。基准测试显示其在数学、编程与科学推理任务上优于
正文结构化主题已通过公开置信门槛
llama.cpp 发布 b12057：简化 context setter 并更新多平台构建
llama.cpp 发布构建版本 b12057，主要变更是简化 context 的 setter 接口（PR #29730）。该版本为 macOS/iOS、Linux、Android、Windows 及 openEuler 等多个平台提供预编译二进制包，覆盖 CPU、CUDA、Vulkan、ROCm、SYCL、OpenVINO、OpenCL 等后端，并附带
正文结构化主题已通过公开置信门槛
KrynexLabs 发布 150M 端侧轻量模型 KrynexAI 1.4
KrynexLabs 在 Hugging Face 发布 KrynexAI 1.4，一个约 150M 参数、基于 Llama 架构的轻量级语言模型，支持 8192 token 上下文，权重约 270MB，面向端侧与边缘部署。模型基于 HuggingFaceTB/SmolLM2-135M 构建，采用 Apache 2.0 许可，并提供 ONNX、GGUF 等格
正文结构化主题已通过公开置信门槛
llama.cpp b12054：ggml-zdnn 与主机共享缓冲区
llama.cpp 发布 b12054 版本，主要变更是 ggml-zdnn 后端与主机共享缓冲区（由 IBM 的 Aaron Teo 提交，PR #31481）。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译包，涵盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等
正文结构化主题已通过公开置信门槛
llama.cpp b12053：Apple 平台改用 vm allocate 分配内存
llama.cpp 发布 b12053 版本，核心变更是 ggml 在所有 Apple 平台（含 iOS）上改用 vm allocate 替代 posix memalign 进行内存分配，并默认运行 test-host-buffer-release 测试。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译二进制包，
正文结构化主题已通过公开置信门槛
llama.cpp 发布 b12052：OpenCL 新增 topk mask
llama.cpp 发布构建版本 b12052，主要变更是为 OpenCL 后端新增 topk mask 支持（PR #31441）。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台、多后端（CUDA、Vulkan、ROCm、SYCL、OpenVINO、OpenCL Adreno 等）的预编译二进制包。此次更新属于开源
正文结构化主题已通过公开置信门槛
Google 与 Meta 开源 TorchTPU，为 TPU 带来原生 PyTorch 支持
Google 与 Meta 联合开源 TorchTPU，为 Google TPU 提供原生 PyTorch 后端，使现有 PyTorch 工作负载只需少量代码修改即可在 TPU 上运行，并支持 eager 与编译执行、分布式计算及硬件优化。该项目旨在替代此前基于 PyTorch/XLA 的方案，解决其需侵入式改代码、编译延迟高、缺乏原生 eager 模式等问
正文结构化主题已通过公开置信门槛
Haystack 发布 v2.31.1-rc1 安全更新
Haystack 发布 v2.31.1-rc1，主要包含安全修复。该版本要求 anyio =4.14.2，以规避 CVE-2026-63374（GHSA-82r6-8w77-94w6）；同时要求 certifi =2026.10.19，因为旧版本信任私钥已被泄露的 eMudhra/emSign 证书颁发机构（GHSA-6q48-6c7w-9gw2）。这两个依
正文结构化主题已通过公开置信门槛
llama.cpp b12048：Intel Arc SYCL 通信优化提速 19%
llama.cpp 发布 b12048 版本，主要针对 Intel Arc Pro B70 显卡优化 SYCL 后端的 ggml sycl comm exchange() 通信交换函数。改动将 -sm 张量提示词评估速度提升 19% 且困惑度（PPL）不变，并用 ext oneapi submit barrier() 替换 wait() 调用以修复 MTP
正文结构化主题已通过公开置信门槛
NVIDIA Workload Map 加速新 AI 框架支持
NVIDIA 发布 Workload Map（原 Karta），作为 DSX AI Factory 平台的一部分，以 Kubernetes CRD 加 Go 库的形式提供分布式工作负载的统一结构描述。它内置 JobSet、PyTorchJob、RayCluster、KServe、NVIDIA NIM、Dynamo 等框架的预置定义，使调度器与平台无需为每种框
11月2日周一 · 6 条
正文结构化主题已通过公开置信门槛
LangChain 发布 1.4.8，并预告将停止支持 Python 3.10
LangChain 发布 langchain 1.4.8 版本，主要更新为升级 langchain-core 依赖及多项第三方依赖（pyasn1、joserfc、authlib、fastmcp、opentelemetry-api 等），并放宽第三方依赖上限。同时官方警告：langchain-core 1.8.0 和 langchain 1.5.0 将不再支持
正文结构化主题已通过公开置信门槛
langchain-core 1.7.4 发布，并预告将停止支持 Python 3.10
LangChain 发布 langchain-core 1.7.4 版本，包含版本发布提交和一项修复：避免在 Anthropic 转换器中修改消息内容。同时官方警告，langchain-core 1.8.0 和 langchain 1.5.0 将不再支持 Python 3.10，当前小版本是最后支持 Python 3.10 的版本，建议升级到 Python
正文结构化主题已通过公开置信门槛
langchain-anthropic 发布 1.7.8 版本
LangChain 发布 langchain-anthropic 1.7.8 版本，包含三项改动：版本发布提交、修复 compaction 块中去除 index 的问题，以及修复缓存创建 token 计数为 null 时的处理。该更新属于 Anthropic 集成包的常规缺陷修复，影响使用该包的开发者。
正文结构化主题已通过公开置信门槛
Unsloth 发布 DeepSeek-V4.1-Flash-1017 GGUF 量化版
Unsloth 在 Hugging Face 发布了 DeepSeek-V4.1-Flash-1017 的 GGUF 量化版本，基于 DeepSeek 官方的 DeepSeek-V4.1-Flash-1017 模型。该模型是 DeepSeek-V4.1-Flash 的小幅更新，在推理、编程、智能体任务和视觉基准上均有提升，同时缩短任务执行时间和输出长度，降低
正文结构化主题已通过公开置信门槛
Arki05 发布 Qwen3.8-27B 全类型 GGUF 分片仓库
用户 Arki05 在 Hugging Face 发布了 Qwen3.8-27B 的 GGUF 分片仓库，提供 18 种 llama.cpp 量化类型下每个 block tensor 的独立文件，并附带 manifest、skeleton 与 sha256 记录，供 qalloc 按张量粒度组装 GGUF。该仓库基于 Unsloth 的 BF16 GGUF
正文结构化主题已通过公开置信门槛
别再数 token，开始数交付成果
MIT Technology Review AI 刊发 HPE 赞助内容，指出 AI 编程代理单任务消耗 token 可达普通对话的 10 至 50 倍，按 token 计费使高价值工作流成本高企，Uber 据称 4 月已耗尽 2026 年 AI 预算，GitHub Copilot 转向按量计费。文章主张改用「每个已合并 PR 的成本」衡量投入产出，并通过网