llama.cpp b11623:AMD 上改用 SIMT 隐式 GEMM conv2d
llama.cpp 发布 b11623 版本,主要变更是 CUDA 后端在 AMD GPU 上使用 SIMT 隐式 GEMM 实现 conv2d,不再依赖 WMMA,并在短归约场景下跳过该 SIMT 路径。该改动由社区贡献者提交,Claude Opus 提供辅助。版本同时提供 macOS、Linux、Windows、Android 等多平台预编译包。
技术方向 · 开源模型、框架与仓库动态:权重开放、社区项目、开源与闭源的力量对比 · 共 2113 条
只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。
llama.cpp 发布 b11623 版本,主要变更是 CUDA 后端在 AMD GPU 上使用 SIMT 隐式 GEMM 实现 conv2d,不再依赖 WMMA,并在短归约场景下跳过该 SIMT 路径。该改动由社区贡献者提交,Claude Opus 提供辅助。版本同时提供 macOS、Linux、Windows、Android 等多平台预编译包。
开发者 CaryPalmer 在 Hugging Face 发布了 Ternary-Bonsai-2-27B-262k-GGUF,基于 PrismML 的 1.58-bit 三值量化 Bonsai 2 27B 模型,重新嫁接 MTP 草稿头并配套服务栈,使单张 12GB RTX 4070 能在 q8 0 KV 精度下跑满 262,144 token 上下文。
llama.cpp 发布 b11622 版本,修复了 jinja 模板中 tojson 输出浮点数的问题:此前通过 C++ 流打印浮点数只保留 6 位有效数字且省略 .0,导致 48.858844 变成 48.8588、1.0 变成 1,影响工具定义、工具调用参数等模板输出。现在改为像 Python json.dumps 一样输出能读回相同值的最短数字,字符
llama.cpp 发布 b11619 版本,主要变更是从嵌入图中移除 t embd 扩展操作(#30461)。由于这些图仅用于生成嵌入,且 build pooling() 已为每种池化类型扩展输出,模型图末尾的扩展属于冗余。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译包。
APUS开源Reflex Agent,采用自研Reflex决策模型驱动Harness决策环节,通过无限记忆、无损记忆、无损输入构建无限上下文方案,解决智能体长任务遗忘与决策延迟问题。该系统以MIT协议开源,提供桌面端、Web和SDK,测试场景下页面响应速度相比同类Agent提升2-3倍。APUS称这一差异化路线为国内智能体生态提供了新的技术样本,但规模化落地
Software Mansion 在 Hugging Face 上发布了 qwen-3 模型仓库,将 Qwen-3 导出为 ExecuTorch 的 .pte 程序,供 React Native ExecuTorch 库在设备端运行。仓库提供 0.6B、1.7B、4B 三种规模,分别有 mlx(int8/int4)和 xnnpack(8da4w)两种后端变体
NVIDIA 在 Hugging Face 上发布了 DeepSeek-V4.1-Flash-NVFP4,这是对 DeepSeek AI 的 DeepSeek-V4.1-Flash 模型进行 NVFP4 量化后的版本,使用 NVIDIA Model Optimizer(v0.47.0rc0)完成。该模型为原生多模态 MoE 架构,总参数 552B,prefi
Google Research 在 2026 年 Research@ 活动上发布 10 项研究进展,涵盖地球科学 AI、科学发现多智能体工具、论文评审系统、边缘 AI 芯片及面向数值数据的基础模型等。Google Earth AI 扩展早期访问并整合 Dataset Search 与 TimesFM,Google.org 提供 1000 万美元资助。多智能体
微软研究院联合MIT、ECMWF等机构在《Nature》发表研究,提出概率偏差校正(PBC)方法,用机器学习修正现有天气预报模型的系统性偏差,而非构建全新模型。该方法将ECMWF物理模型的降水与温度预报准确率分别提升98%和92%,并使其AI预报系统准确率翻倍,且仅需CPU即可运行。相关工具已开源,有望帮助资源有限的气象机构提升2至6周中长期预报能力。
Floqer 是一家自主客户知识平台,为 B2B 销售和营销团队提供 AI 驱动的数据库,用 AI 代理自动收集、整理和更新客户信息。该公司在 TechCrunch Disrupt 2026 的 Startup Battlefield 上亮相,宣布计划于 2027 年初开源其自主客户知识数据库技术,目前正进行安全审查。Floqer 称其 ARR 已超过 12
Hugging Face 发布 UltraBERT 系列英文编码器(150M 和 380M),原生支持 32K 上下文,并推出基于其构建的 UltraBERT-Embed-150M 嵌入模型,全部采用 Apache 2.0 许可。研究通过超过 70 万亿 token 的训练实验发现,编码器在 1-2T token 后性能饱和,且低掩码率利于分类、高掩码率利于
Software Mansion 在 Hugging Face 发布了为 React Native ExecuTorch 库导出的 clip-vit-base-patch32 模型,提供 CoreML、MLX、Vulkan、XNNPACK 四种后端及 fp16/int8/fp32 多种精度版本,可直接在设备端运行。XNNPACK int8 量化版本在 Ima
Haystack 发布 v3.4.0-rc1 候选版本,主要统一了各 splitter 中 page number 元数据的语义,并修复了 RecursiveDocumentSplitter 在按词切分、句子切分及空白保留方面的多个问题。该版本还移除了对 Python 3.10 的支持,将最低版本提升至 3.11,并调整了 FilterPolicy.MERG
2026全球开发者先锋大会暨国际具身智能技能大赛将于10月23日至25日在上海浦东举办,采用“1场大赛、1场开幕式、N场开发者活动”架构,聚焦“真机实景、实景实训”。大会设置9大重点赛道、23个赛项,智元、宇树、傅利叶等整机企业及200余家产业链企业参与,超万台机器人入驻张江人工智能创新小镇。大会还将发布库帕思五大方向行业标准及中国移动时空智能三大模型,并设
llama.cpp 发布 b11612 版本,主要变更为 Unigram 分词器新增可选的 NFC Unicode 规范化支持(PR #30390),并附带各平台预编译二进制包。该更新提升了多语言文本在 Unigram 分词下的规范化处理能力,属于推理框架的常规迭代。
蚂蚁集团旗下具身智能公司蚂蚁灵波接连与隆盛唯睿、德马科技、德迩象网等智能制造与物流企业达成战略合作,基于自研具身原生模型LingBot-VLA 2.0及云端工具链,攻关工业上下料、汽车制造数智化、物流柔性分拣等场景。其模型预训练阶段已适配17个品牌20种机器人构型,主打“一脑多机”,并在工博会上展示药房拣药、物流分拣、工业上下料等落地应用。蚂蚁灵波开源模型在
CrewAI 发布 1.15.28 版本,新增 crewai eval 命令用于定位模型中断位置,并改用 LiteLLM 目录获取上下文窗口。该版本修复了流程恢复人工反馈、部署失败原因展示、RAG 本地 JSON 的 UTF-8 BOM 解码、OpenAI GPT-6 Sol/Luna/Astra 图像输入等问题,同时更新了 MongoDB 与 AGENTS
APUS AI(麒麟合盛网络技术股份有限公司)于10月13日宣布开源Personal Agent产品Reflex Agent,采用MIT协议,提供桌面端、Web和SDK。该产品基于自研开源决策模型Reflex构建Harness,结合Continuum记忆引擎,由模型承担模型路由、技能选择、结果审查和执行监督等决策工作,形成Loop Working循环。据AP
llama.cpp 发布 b11609 版本,主要修复了 WebGPU 后端在专家 ID 重复情况下 mul mat id 的 CI 问题。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译二进制包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后端。
llama.cpp 发布 b11607 版本,主要变更是将聊天(chat)模块的输出字符串替换为 parts 结构(PR #30389)。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译二进制,覆盖 CPU、CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。