llama.cpp b12027:为 LFM3 启用张量切分
llama.cpp 发布 b12027 版本,主要变更为 LFM3 启用 tensor split(张量切分),该改动由 Claude Opus 5.5 辅助完成。发布包覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 等多平台,包含 CUDA、Vulkan、ROCm、SYCL、OpenVINO、Snapdrago
技术方向 · 开源模型、框架与仓库动态:权重开放、社区项目、开源与闭源的力量对比 · 共 2105 条
只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。
llama.cpp 发布 b12027 版本,主要变更为 LFM3 启用 tensor split(张量切分),该改动由 Claude Opus 5.5 辅助完成。发布包覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 等多平台,包含 CUDA、Vulkan、ROCm、SYCL、OpenVINO、Snapdrago
Quarkus LangChain4j 发布 1.15.0.CR3 候选版本,由贡献者 @omatheusmesmo 通过 PR #3090 修复了发布失败问题,具体做法是将 Quarkus 升级至 3.40.1.1 并改用 platform BOM。该版本属于常规修复性发布,主要影响使用该扩展的 Java 开发者。
Hugging Face 上出现了一个名为 Esobold/EsoTest GGUFs 的模型仓库,属于 FM nearswap 系列。该仓库包含 GhostShip-31b-Q4 K M.gguf 文件,描述了一种 nearswap 合并方法:将 Gemma4-Gutenberg-31B-Heretic 与 gemma-4-31B-it-scotoma-2
TypeSafe AI(Jev 的母公司)联合 Agent 工具平台 Treg 开源了一款找人工具,价格比 Clay 便宜 85%,已获 6400 Star。该工具让 Agent 通过自然语言描述目标人物,由 Jev 判断候选人是否符合要求,Treg 调用人员数据库与邮箱验证等工具完成线索补齐。在 People Search Bench 上,Claude C
研究者 JIRU-W 在 Hugging Face 发布了一个研究用 MoE 检查点:将稠密模型 dense e1 seq2048 gbs128 10b 第 15000 步的 SwiGLU MLP 逐层复制为 32 专家、top-8 路由的 MoE,并在不使用负载均衡损失的情况下继续训练,以研究相同专家能否分化。训练仍在进行(约 3.79 万/3.81 万步
ggml-org 在 Hugging Face 发布了 gemma-4-12B-it-GGUF,这是对 Google gemma-4-12B-it 的 GGUF 量化版本,采用 Apache-2.0 许可,支持 any-to-any 任务。该模型可通过 Llama 应用或命令行 llama serve 直接运行,页面说明其由 ggml-org/convert
阿里 FunASR 发布 v1.4.19,修复了 Paraformer 在无 token 预测时每句保留一个结果、流式 Paraformer 在 chunk size[0] 为 0 时保留无左上下文帧、ONNX 空 split-final 结果处理、自动说话人数量上限可配置、实时模式转发 vLLM HF 覆盖参数等问题,并同步提供配套 llama.cpp/G
开发者 BoldingBuilds 在 Hugging Face 发布 Ternary-Bonsai-2-27B-Abliterated-v2-PQ2 0-MTP-GGUF,基于 PrismML 的三值(ternary)2-bit 量化 Bonsai 2 27B 模型做“abliterated”(去除拒答)微调,并修改输出层中 token 的一行权重,使模型
cyankiwi 在 Hugging Face 发布了 MiniCPM-SALA 的 AWQ 8bit 量化版本,该版本基于 openbmb/MiniCPM-SALA 量化而来,模型体积约 10.63 GB,采用 Apache-2.0 许可,支持中英文文本生成。原模型 MiniCPM-SALA 是首个融合稀疏注意力与线性注意力的大规模混合模型,面向百万级 t
llama.cpp 发布 b12023 版本,修复了 server 端共享决策前缀的问题(#30710),将共享前缀限制在父任务与各子任务的第一个必需输出位置,从而在问题共享选项 token 时保证最终 batch 中决策输出 embedding 可用,修复了 #30482。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多
llama.cpp 发布 b12022 版本,主要修复了 server 的 /v1/responses 端点,使其能够接受 extra params 参数。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译二进制包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后端。此次更新属于常规维护
小米发布并开源轻量级文档理解模型Xiaomi-OCR-0,仅0.8B参数,将文档解析、关键信息抽取与OCR视觉问答三类能力融于一体。该模型在OmniDocBench v1.6等基准中取得领先成绩,1B以下模型排名第一,并逼近Qwen3.5-4B等更大模型。小米同步公开模型权重、推理代码、MCP服务与Agent Skill工具包,相关技术已融入小米手机与超级小
DeepSeek Harness团队于10月31日晚开源了Super-agent(超级智能体)的底层架构原型,该架构并非新产品,而是将计算机系统中的调度、缓存、存算分离、看门狗等经典思想引入Agent设计。架构包含双层架构(常驻Router层负责交互与分派、隔离Worker层并发执行)、事件驱动、异步多信道交互、存算分离与外部Watchdog五大模块,目标是
另有 1 家信源报道
阿里 FunASR 发布 v1.4.18,修复本地热词文件加载、过滤特殊 token 后时间戳对齐以及中文 VAD 分块 token 边界保持等问题。该版本同时附带与 runtime-llamacpp-v0.2.6 配套的多平台预编译 llama.cpp/GGUF 运行时包,并完成 137 项发布/运行时契约检查与 52 个回归用例验证。
DeepSeek 开源了 Personal Agent 的底层架构思路 Super-agent,目标是让 AI 在无人 @、无人下指令的情况下自主发现 Bug、定位问题并提交修复 PR,同时跨 IM 群聊与 GitHub 等平台持续跟进同一任务。该架构采用 Router 与 Worker 双层设计,并引入投机执行、两级事件过滤、异步 ReAct Loop 与
另有 1 家信源报道
Hugging Face 用户 Abiray 发布了 DeepSeek-V4.1-Flash-1017 的独立 GGUF 构建,将 86 个 abliterated(去审查)残差写入张量直接烘焙进量化权重,运行时无需 LoRA。该版本基于 ISTA-DASLab 的 GSQ-RCO 量化模型,保留全部 28 层 1-bit IQ1 M 路由专家层,体积仅增加
Hugging Face 用户 Quiho 发布了一个名为 best-from-civitai 的模型仓库,标签显示其内容为来自 Civitai 的 Stable Diffusion 相关资源归档,涵盖 safetensors、Illustrious、NoobAI、SDXL、放大器、VAE 和 LoRA 等类型,采用 MIT 许可证,基于 diffusers
llama.cpp 发布 b12020 版本,主要变更是为 OpenCL 后端新增 FWHT(快速沃尔什-哈达玛变换)支持,由高通工程师参与贡献。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制,涵盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO、OpenCL A
llama.cpp 发布 b12019 版本,主要修复了 chat 功能:在 reasoning format 设为 none 时,对 qwen3-coder 响应中的 think 块进行剥离处理,并预先定义 qwen3-coder 的两种 think 块变体。该版本同时提供 macOS、Linux、Windows、Android 等多平台及 CUDA、Vu
Hugging Face 上发布了 koboldcpp/tts 模型仓库,为 KoboldCpp 提供文本转语音(TTS)模型集合。该仓库说明了 OuteTTS、Kokoro、Parler、Dia、Qwen3 TTS(legacy)以及 Audio.cpp 等模型的使用方式,其中部分模型需要搭配对应的 tokenizer 或 WavTokenizer。此举方