返回主题地图

开源生态

技术方向 · 开源模型、框架与仓库动态:权重开放、社区项目、开源与闭源的力量对比 · 共 2114 条

只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。

10月13日周二 · 3 条
正文结构化主题已通过公开置信门槛
Vercel AI SDK Releases一手来源开源

@ai-sdk/zai 发布 3.0.30 补丁版本

Vercel AI SDK 发布了 @ai-sdk/zai 的 3.0.30 补丁版本,主要更新了依赖项,包括 @ai-sdk/provider-utils@5.0.59、@ai-sdk/provider@4.0.27 和 @ai-sdk/openai-compatible@3.0.68。此次更新属于常规依赖同步,未涉及新功能或行为变更。

正文结构化主题已通过公开置信门槛
Hugging Face New and Trending Models一手来源模型发布

IsValorum 发布 Qwen3.8-27B 无审查模型 NanoPlus V3 GGUF 量化版

IsValorum 在 Hugging Face 发布了 Qwen3.8-27B-EfficientThink-Uncensored 的 VAL-APEX-I NanoPlus V3 GGUF 量化版本,文件大小 11.93 GB,整文件 BPW 为 3.55,WikiText-2 PPL 为 5.6504 ± 0.4832。作者称此前旧版量化存在严重的循环

正文结构化主题已通过公开置信门槛
Hugging Face New and Trending Models一手来源模型发布

Gemma 4 31B IT 的 NVFP4 Blackwell 量化版发布

开发者 melcheikh 在 Hugging Face 发布了 melcheikh/gemma-4-31B-it-qat-NVFP4-Blackwell,将 Google 的 Gemma 4 31B IT 未量化 QAT 权重通过 NVIDIA Model Optimizer(modelopt 0.44.0)量化为 NVFP4 格式,以便在 NVIDIA

10月12日周一 · 17 条
正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11573:Vulkan 后端优化 f16 FMA 打包

llama.cpp 发布 b11573 版本,主要针对 Vulkan 后端进行优化:为 f16 累加打包 FMA 指令,并移除点积(dot product)算子;同时将 dot product 重命名为 dot product v2,并实现每行 f16 FMA 打包两行数据。该版本同步提供 macOS、Linux、Windows、Android 等多平台预编

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11572 发布:支持 vllm d3 模型

llama.cpp 发布 b11572 版本,主要新增对 vllm d3 系列模型的支持,包括 pplx-decider 和 vllm d2,并更新了命名规则与更严格的校验逻辑。该版本同时提供覆盖 macOS、iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包,涵盖 CUDA、Vulkan、ROCm、SYCL、

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp 发布 b11571:新增 vllm decision 2 模型支持

llama.cpp 发布 b11571 版本,主要新增对 vllm decision 2 模型的支持(#30378),包括支持 pplx-decider 模型、更新命名规则、加强校验并修复 CI。同时该版本继续提供覆盖 macOS/iOS、Linux、Android、Windows 等多平台多后端的预编译二进制包。

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11570:测试按需链接库并显式启用 C++17

llama.cpp 发布 b11570 版本,主要改动是重构测试构建系统:为 llama build() 和 llama build and test() 增加 LINK 关键字(默认 llama-common),使各测试只链接其实际使用的库,例如 ggml-only 测试仅链接 ggml,llama-only 测试不再链接 llama-common,mtm

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11569:修复 Metal mul mat id 重复 id 问题

llama.cpp 发布 b11569 版本,主要修复 Metal 后端 mul mat id 算子在 ids 存在重复时产生错误或丢失输出行、并可能越界写入相邻专家切片的问题。修复通过两遍扫描构建按专家的紧凑 (token, slot) 列表,并借鉴 Vulkan 实现由预处理阶段派发 entry tile,使网格规模缩小约 8-16 倍。883/883

正文结构化主题已通过公开置信门槛
Hugging Face New and Trending Models一手来源模型发布

React Native ExecuTorch 发布 whisper-tiny 端侧模型

Software Mansion 在 Hugging Face 发布了为 React Native ExecuTorch 库导出的 whisper-tiny 模型仓库,提供 CoreML、MLX、Vulkan、XNNPACK 四种后端共 7 个 .pte 变体,可在设备端运行。其中 XNNPACK int8 版本在 LibriSpeech 与 FLEURS

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11567:新增推理计算图重分配回调报告

llama.cpp 发布 b11567 版本,新增可选的 ggml backend sched realloc callback 回调机制,允许用户代码在推理过程中图缓冲区不足需重新分配时收到通知。llama context 在创建调度器时注册该回调,将后端分配变化视为预期情况,其余按图大小变化计数,并在性能统计中输出这两个计数器。该版本同时提供 macOS

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp 发布 b11565:修复 SYCL 后端 DMMV 行尾读取问题

llama.cpp 发布 b11565 版本,主要修复了 SYCL 后端在行尾处 DMMV 读取的越界问题(PR #29338)。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译二进制包,覆盖 CPU、CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。此次更新属于常规维护性发布,提升了 SYC

正文结构化主题已通过公开置信门槛
正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11564:Vulkan 优化 CM2 量化块大小

llama.cpp 发布 b11564 版本,主要针对 Vulkan 后端进行优化:为 CM2 量化块大小做专门处理,并改用三元表达式避免 switch 语句降级,以提升 CM2 matmul 性能。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译二进制,覆盖 CUDA、ROCm、Vulkan、SYCL、OpenVINO

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11563:ggml 符号默认可见性改为 hidden

llama.cpp 发布 b11563 版本,主要变更是将 ggml 的符号默认可见性改为 hidden(PR #30014),以防止部分内部符号通过 GGML API 泄漏。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译二进制包,覆盖 CPU、CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11562:修复32位平台Vulkan缓冲区日志

llama.cpp 发布 b11562 版本,主要修复了源码拆分后在 32 位平台上 Vulkan 缓冲区日志的问题,将 vk::Buffer 流操作符移至共享头文件以便 ggml-vulkan-debug.cpp 可见。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译二进制包,覆盖 CPU、CUDA、Vulkan、RO

正文结构化主题已通过公开置信门槛
雷峰网 AI科技评论模型发布

微软基于阿里Qwen打造决策模型Microsoft-Decision-1

微软基于阿里Qwen3.5-9B后训练推出全新决策模型Microsoft-Decision-1,在结构化决策任务的时延和准确性上超过LLM及Jev 1.13.0等热门决策模型。微软Xbox研究团队已用它处理超1万条玩家反馈,CEO纳德拉表示微软正在事件响应、质量控制、科学发现等所有领域测试应用该模型。报道还指出,HuggingFace上129个开源决策模型项

正文结构化主题已通过公开置信门槛
Simon Willison's Weblog开源

datasette-ports 0.4 发布,新增显示 PID

Simon Willison 发布了 datasette-ports 0.4 版本,该插件用于检测并列出当前机器上所有 Datasette 实例,现已兼容最新版本并新增显示检测到的 PID。显示 PID 有助于更方便地接入新的 Python 3.15 性能分析器。

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11560:Hexagon 后端新增 IM2COL 3D 支持

llama.cpp 发布 b11560 版本,主要变更为 Hexagon 后端新增 IM2COL 3D 支持,并配套加入 DMA 路径、避免标量 fp16 转换、重写为规范的双缓冲 DMA 流水线、将 kernel params 与 VTCM 布局预计算移至主机端等优化。该改动由高通工程师 Max Krasnyansky 参与贡献,旨在提升骁龙 Hexago

正文结构化主题已通过公开置信门槛
Hugging Face New and Trending Models一手来源开源

OrcaRouter 发布去审查版 Qwen3.8-27B MLX 量化模型

OrcaRouter 在 Hugging Face 发布了 Qwen3.8-27B-Uncensored-MLX,这是对 Qwen/Qwen3.8-27B 进行 abliteration(去除拒绝方向)后的 MLX 量化版本,提供 2/4/6/8-bit 四档精度,面向 Apple Silicon,视觉塔、归一化与卷积层保留 BF16。该模型保留视觉、工具调

正文结构化主题已通过公开置信门槛
Hugging Face New and Trending Models一手来源开源

GLM-5.3-Flash 50%专家剪枝版GGUF发布

开发者 patrickbdevaney 在 Hugging Face 发布了 GLM-5.3-Flash-REAP50-GGUF,这是对 zai-org/GLM-5.3-Flash 进行 50% 专家剪枝(321B 降至约 165B)后的 4-bit GGUF 量化版本,采用 REAP 显著性剪枝并做输出尺度校正。仓库当前仅含 v2 掩码权重,v3 采用 H