llama.cpp b12224:ggml-backend 跳过无读取输入的上传
llama.cpp 发布 b12224 版本,核心变更是 ggml-backend 不再上传没有任何算子读取的输入张量,以减少无效的数据传输开销。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。
技术方向 · 开源模型、框架与仓库动态:权重开放、社区项目、开源与闭源的力量对比 · 共 2099 条
只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。
llama.cpp 发布 b12224 版本,核心变更是 ggml-backend 不再上传没有任何算子读取的输入张量,以减少无效的数据传输开销。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。
Google 在第八代 AI 加速器阵容中新增 TPU 8tx 和 TPU 8i Max 两款系统,前者面向机密计算,可在处理过程中保持数据加密;后者通过单封装双芯片将同一机架内的算力、内存和内存带宽翻倍。两款产品均基于现有芯片,仅改变封装、网络和内存配置,使 Google 一年内首次交付四款 TPU 系统。Google 还开源 TorchTPU 并支持 v
llama.cpp 发布 b12223 版本,主要变更为在所有 Granite 架构中通过 build ffn 传递 NVFP4 权重缩放(weight scales),使 Granite 系列模型支持 NVFP4 量化推理。该改动由 IBM 的 Gabe Goodhart 提交,并注明使用 Claude 辅助开发。发布同时提供 macOS、Linux、Wi
Hugging Face 发布 LeRobot v0.7.0,支持直接从 Hub、Storage Bucket 或 LanceDB 流式训练近 300TB 开放机器人数据,无需先下载。新版本重建训练栈以支持 5-20B 参数的世界动作模型,并引入交互式 rollout,可在机器人运行时通过文本指令切换子任务、提问或自动导航。同时集成 NVIDIA、Black
llama.cpp 发布 b12221 版本,主要修复 Metal 后端中 Metal FA(Flash Attention)输出缓冲区越界写入的问题(PR #31662),由 Zhuomin Chen 共同提交。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、SYCL
llama.cpp 发布构建版本 b12219,主要变更是 opencl 后端补充包含 climits 头文件(PR #31935)。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO、OpenCL Adreno 及 Snapdragon NPU
OpenBMB 在 Hugging Face 发布 MiniCPM-OCR-1.0-DSpark 的 GGUF 版本,这是 MiniCPM-OCR 1.0 的 DSpark 草稿头(draft head),用于投机解码加速,并非独立 OCR 模型,需与主模型 checkpoint 及主模型的 mmproj 投影器配合使用。仓库提供 F16 到 Q4 0 共
用户 lynaNSFW 在 Hugging Face 上发布了 minimaxH3 Collection,这是一个基于 pmczip/MiniMaxH3 LoRAs 的 text-to-image LoRA 合集,用于收集每日新增或变化的 MiniMax H3 LoRA。该页面标注了 diffusers 与 diffusion-lora 模板,并链接到 Ci
OpenBMB 在 Hugging Face 发布 MiniCPM-OCR 1.0 的 GGUF 量化版本,基于 MiniCPM-V-4.6 量化而来,面向 llama.cpp 本地推理。该 1.3B 模型可解析中英文文档与 PDF 中的文本、表格、公式、图表和印章,并提供从 F16 到 Q4 0 的多种量化档位及配套视觉投影器。模型采用两阶段流水线:SDK
阿里 ModelScope 发布 v1.40.3 版本,要求依赖 modelscope-hub =0.7.0,新增 get hub cache root() 等缓存路径工具并统一缓存根目录配置。该版本修复了离线下载问题:local files only=True 时不再调用 API 解析默认版本,无网络或凭证也能从缓存下载;同时强化 ms clear-cac
百度文心首次披露其递归自我改进(RSI)系统 ERNIE Evolve 的进展,该系统能自主提出研究方向、开展实验并验证结果,在 NanoChat AutoResearch 和 NanoGPT Speedrun 两项任务上取得公开验证的 SOTA 表现。ERNIE Evolve 已用于即将发布的文心 5.5 Flash 推理优化,在昆仑芯 P800 低时延场
首届蚂蚁灵波具身大模型挑战赛公布决赛名单,15支战队从全球1855支队伍中晋级,将于11月14日至15日在上海张江进行48小时真机黑客松,基于LingBot-VLA 2.0开源预训练模型和松灵COBOT MAGIC设备完成从数据采集到真机部署的全流程。赛事初赛GPU投入增至350张、累计超34万卡时,体现产业界对具身大模型的关注。11月16日蚂蚁灵波还将举办
llama.cpp 发布构建版本 b12212,主要修复了 ggml-zdnn 后端发布二进制无法检测到后端库的问题(#31905),由 IBM 的 Aaron Teo 提交。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译包,涵盖 CUDA、Vulkan、ROCm、SYCL、Open
腾讯正式发布混元Hy4大模型,总参数770B、激活参数49B,首次引入原生视觉理解与电脑操作(CUA)能力,并升级长程Agent与指令遵循能力。模型已在腾讯云TokenHub、WorkBuddy/CodeBuddy、元宝、ima等产品上线,API接入OpenRouter等平台,权重将于近期开源。实测显示其可自主完成3D交互页面、PPT重排版、图片批处理工具等
n8n 发布 2.46.7 版本,仅包含一项核心修复:限制等待中和已排队执行的恢复尝试次数(#42862)。该修复旨在避免这些执行状态被反复重试,属于稳定性维护性更新,未涉及新功能或 AI 能力变化。
OpenBMB 在 Hugging Face 发布 VoxCPM2,一个 2B 参数、无 tokenizer 的扩散自回归文本转语音模型,支持 30 种语言及多种中文方言,基于超 200 万小时多语种语音数据训练。模型支持语音设计、可控与高保真声音克隆、48kHz 输出和实时流式合成,采用 Apache-2.0 协议可商用。
面壁智能(OpenBMB)发布 MiniCPM5 系列第二款模型 MiniCPM5-2B,这是一个 2B 参数稠密 Transformer,采用 Apache-2.0 许可,支持中英文、长上下文与工具调用,面向端侧和资源受限场景。官方称其在 2B 级开源模型中达到 SOTA,整体可与 4B 级模型竞争,并在编程、数学、长上下文理解、工具使用和智能体任务上优于
面壁智能(OpenBMB)发布 MiniCPM5 系列第二款模型 MiniCPM5-2B,这是一个 2B 参数稠密 Transformer,采用 Apache-2.0 许可,面向端侧与资源受限场景。官方称其在同尺寸开源模型中达到 SOTA,整体可与 4B 级模型竞争,并在代码、数学、长上下文、工具调用与智能体任务上具备优势。模型基于 Ultra-FineWe
Unsloth 发布了 FLUX 3 Image Klein Base 的 FP8 与 INT8 量化版本,将图像 transformer 从 11.1 GB 压缩至 6.42 GB(FP8)或 5.81 GB(INT8),以降低显存占用。其中 INT8 权重直接采用 Black Forest Labs 官方的 int8 convrot 方案,FP8 版本由
LobeHub团队将其AI协作平台用于自身研发,让主管Agent拆解任务、派发给Coding Agent写代码,并由Codex等Agent审查代码,形成真实的AI研发协作链。该平台支持Agent后台持续执行、跨项目接力与多模态验收,团队称开发效率提升约3-5倍,GitHub已获8.44万Star并开源。量子位记者实测用该平台组建AI编辑部,8分钟产出6条选题