Cohere 开源 2B ASR 模型发布 GGUF 量化版
Cohere 开源了 2B 参数的 ASR 模型 cohere-transcribe-03-2026，在 Open ASR Leaderboard 上以平均 WER 5.42 排名第一。社区用户 cstr 将其转换为 GGUF 格式并发布，提供 F16 到 Q4 K 共 6 种量化版本，可借助 CrispASR C++ 运行时在 CPU 上高效推理。模型卡还
开源生态
技术方向 · 开源模型、框架与仓库动态：权重开放、社区项目、开源与闭源的力量对比 · 共 2115 条
只展示置信度达到公开门槛且每篇排名前三的主题标签，降低泛化误贴。
9月28日周一 · 15 条
正文结构化主题已通过公开置信门槛
正文结构化主题已通过公开置信门槛
llama.cpp b11227：修复 causal attn 切换导致的调度器重复预留
llama.cpp 发布 b11227 版本，核心改动是修复 llama context::set causal attn() 在切换 causal attn 标志时每次都触发调度器完整重新预留（sched reserve）的问题。由于 Gemma 模型处理视觉输入时每个非因果图像块会两次翻转该标志，导致每张图片产生两次昂贵的重新预留，多图或视频输入尤为缓慢
正文结构化主题已通过公开置信门槛
蚂蚁灵波与阿拉伯数字经济联盟签署具身智能合作备忘录
在第五届全球数字贸易博览会的“中阿数字经济产业对接会”上，蚂蚁集团旗下具身智能公司蚂蚁灵波科技与阿拉伯数字经济联盟（AFDE）签署框架合作备忘录，双方将围绕具身智能与机器人全栈解决方案在中东市场的部署与本地化展开合作，涵盖区域商业化、联合概念验证、阿拉伯语交互本地化、真实场景数据与训练协作及产业生态共建五大方向。蚂蚁灵波自研的LingBot-VLA 2.0基
正文结构化主题已通过公开置信门槛
kalle07 发布 embedder collection：25+ 嵌入模型与本地 RAG 实践指南
Hugging Face 用户 kalle07 发布了一个名为 embedder collection 的模型合集，收录超过 25 种嵌入模型，并附带关于嵌入、文档检索、分块、上下文长度和本地 RAG 的实践指南。作者强调嵌入模型只是 RAG 系统的一部分，检索质量还取决于文档结构、分块方式、向量数据库、重排序和主 LLM 等多个环节，并给出了在 Anyth
正文结构化主题已通过公开置信门槛
NVIDIA 发布 OpenShell 0.1.0 为 AI 智能体添加运行时控制
NVIDIA 发布开源运行时 NVIDIA OpenShell 0.1.0，用于为 AI 智能体定义并强制执行可访问的系统与数据权限，结合沙箱执行、受控服务访问、凭证管理和形式化策略分析。该运行时支持 Codex、Claude Code、Pi、Hermes 等框架，并已被 Cadence、Slack、Gecko Robotics 等企业用于芯片设计、企业自动
正文结构化主题已通过公开置信门槛
llama.cpp b11226 支持 Windows ARM64 MSVC 构建
llama.cpp 发布 b11226 版本，主要新增对 Windows ARM64 平台使用 MSVC cl.exe 编译的支持（PR #28362）。该 PR 包含修复 FMA 探测、SVE 探测、量化代码语法、volatile 运行时任务以及交叉编译问题等一系列改动，并补充了相关文档。发布同时提供了 macOS、Linux、Windows、Androi
正文结构化主题已通过公开置信门槛
llama.cpp 发布 b11225：修复测试中 ggml 初始化问题
llama.cpp 发布 b11225 版本，主要修复了测试中 ggml 的初始化问题，涉及 test-recurrent-state-rollback、test-save-load-state 和 test-state-restore-fragmented 等测试用例。同时提供了覆盖 macOS、iOS、Linux、Android、Windows 及 op
正文结构化主题已通过公开置信门槛
llama.cpp b11224：修复 Vulkan 矩阵运算读取缓存切片错误
llama.cpp 发布 b11224 版本，主要修复 Vulkan 后端在 mul mat、mul mat id 等矩阵运算中读取较大缓存切片（如 KV cache 的跨步视图）时结果错误的问题。修复通过从 nb[2] 推导原地读取张量的批步长、按跨步范围绑定 A/B 缓冲区，并新增 test-backend-ops 的 m v 参数测试用例覆盖这些场景。
正文结构化主题已通过公开置信门槛
LMDeploy 发布 v0.18.0：新增 logprobs 与多平台支持
LMDeploy 发布 v0.18.0 版本，新增输出输入 logprobs、扩展 SM90 量化 GEMM、支持昇腾平台 glm52、为 qwen3.5 支持 dflash，并将共享专家移入 MoE FFN 层。该版本还包含大量性能改进与重构，如 TurboMind 迁移至 C++20、新增分段 CUDA graph 预填充、支持 checkpoint-e
正文结构化主题已通过公开置信门槛
阿里 AgentScope 发布 v2.0.9：新增 SOP 流程、团队流水线与实时语音模型
阿里 AgentScope 发布 v2.0.9 版本，新增实验性标准操作流程（SOP）模块，可将任务拆分为有序里程碑并逐步验证，支持运行状态持久化与恢复，同时通过 /sop 端点提供手工管理能力。该版本还引入 TeamPipeline 多智能体协作类、终端 UI 模块、AskUser 工具，并扩展实时语音模型支持（OpenAI Realtime、Gemini
正文结构化主题已通过公开置信门槛
审计并修复生产 text-to-SQL 流水线中的 LLM 评判失败
该论文审计了一个生产环境 text-to-SQL 流水线中的 LLM-as-judge，发现部署的 gpt-4o-mini 评判器与人工标注一致性很低，在富集样本上过度标记了 77.1% 的人类可信案例，主要失败机制被命名为 Grade-Hallucination。作者测试了替代方案，发现自托管 Qwen3.6-27B 与 Claude Opus 4.7 表
正文结构化主题已通过公开置信门槛
llama.cpp b11223：支持因果 LLM 重排序的 RANK pooling 批拆分
llama.cpp 发布 b11223 版本，主要修复了服务端对因果 LLM 重排序模型（如 Qwen3、Qwen3-VL）的 RANK pooling 批处理拆分问题。此前服务端会拒绝超过 n ubatch 的 RANK pooling 输入，且图构建器硬编码架构检查，导致长文档和多模态重排序失效。新版本通过暴露 llama get causal attn
正文结构化主题已通过公开置信门槛
CodeRankEmbed-flash-attn：bf16量化与三层注意力调度
该模型仓库发布了 nomic-ai/CodeRankEmbed 的 bf16 量化版本，权重未重新训练，仅将原始权重转为 bf16。其核心改动是在自定义 modeling hf nomic bert.py 中内置三层注意力调度：torch varlen、flash attn 和 eager，其中前两者用 O(N) 非填充路径替代原始 O(seq²) 注意力，
正文结构化主题已通过公开置信门槛
Qwen3.8-27B 混合量化 GGUF：GSQ 与 Orca 去审查权重
作者发布了首个开源模型 Qwen3.8-27B-Abliterated-GSQ-Orca-GGUF，将 GSQ 的 IQ2 S 量化权重与 OrcaRouter 的 abliterated 权重通过选择性张量替换混合，保留 866 个张量中的 735 个，替换 131 个矩阵，面向 RTX 3060 12GB 等小显存本地推理。模型在 IFEval、GSM8
正文结构化主题已通过公开置信门槛
llama.cpp 发布 b11221：string split 对无效值抛异常
llama.cpp 发布 b11221 版本，主要变更是让 common 模块中的 string split 在遇到无效值时抛出异常（PR #29518，由 Adrien Gallouët 提交）。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译二进制包，覆盖 CPU、CUDA、Vulkan、ROCm、SYCL、
9月27日周日 · 5 条
正文结构化主题已通过公开置信门槛
llama.cpp 发布 b11218：jinja 新增 dict 内置支持
llama.cpp 发布 b11218 版本，主要变更是为 jinja 模板引擎增加对 dict 内置对象的支持，并补充了相应测试。该版本同时提供覆盖 macOS、iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包，涵盖 CPU、CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。
正文结构化主题已通过公开置信门槛
llama.cpp 发布 b11217：优化 OpenCL bin kernel 加载条件
llama.cpp 发布 b11217 版本，主要变更是优化了 OpenCL 后端 bin kernel 的加载条件（PR #29503）。该版本同时提供覆盖 macOS、iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包，支持 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后端。
正文结构化主题已通过公开置信门槛
llama.cpp b11216：SYCL 新增宽块 FWHT 内核
llama.cpp 发布 b11216 版本，为 SYCL 后端新增了针对块宽度大于 512 的 FWHT（快速沃尔什-哈达玛变换）内核。新内核 fwht kernel wide 采用每个工作组处理一行、蝶形运算分层走 shuffle/本地内存/寄存器的策略，将原本退化为 O(n^2) 稠密 GEMM 的 1024/2048/4096/8192 宽度改为 O
正文结构化主题已通过公开置信门槛
llama.cpp b11215：调优 CUDA fp16 FlashAttention 配置
llama.cpp 发布 b11215 版本，主要变更为针对 head size 40-112 的 CUDA fp16 tile FlashAttention 配置进行调优（PR #26289）。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包，支持 CUDA、Vulkan、R
正文结构化主题已通过公开置信门槛
llama.cpp b11214：CDNA 上为大批量启用 fattn-mma 内核
llama.cpp 发布 b11214 版本，主要变更是为 HIP 后端在 CDNA 架构上启用 fattn-mma 内核，支持 dkq 大于 256 的大批量场景，并在 CI 的 hip-quality-check 中忽略超大 mfma 内核的寄存器溢出。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台多后端（CUD