llama.cpp b12193:mtmd 将 log-mel 计算移入计算图
llama.cpp 发布 b12193 版本,主要变更在 mtmd(多模态)模块:将 log-mel 特征计算移入 cgraph(计算图),并清理了 mtmd audio stft op 等冗余代码、补充了测试。同时该版本照例提供覆盖 macOS/iOS、Linux、Android、Windows 及多种后端(CUDA、Vulkan、ROCm、SYCL、Op
技术方向 · 开源模型、框架与仓库动态:权重开放、社区项目、开源与闭源的力量对比 · 共 2102 条
只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。
llama.cpp 发布 b12193 版本,主要变更在 mtmd(多模态)模块:将 log-mel 特征计算移入 cgraph(计算图),并清理了 mtmd audio stft op 等冗余代码、补充了测试。同时该版本照例提供覆盖 macOS/iOS、Linux、Android、Windows 及多种后端(CUDA、Vulkan、ROCm、SYCL、Op
llama.cpp 发布 b12192 版本,其多模态模块 mtmd 新增对 MageVL-Cowork 模型的支持。改动将 magevl 的 rope freqs 保留在模型层级由各层共享,并在加载时校验其为 F32、元素数为 d head 且可拆分为图所需的 4:6:6 比例。该版本同时提供 macOS、Linux、Windows、Android 等多平
llama.cpp 发布 b12191 版本,为 MoE 缓存引入 CPU 分担机制:通过 --moe-cache-cpu-share 参数,将部分未命中专家在 CPU 上计算而非上传至设备,并新增 moe-cache-tune.py 调优脚本自动推荐缓存大小与 CPU 分担比例。该改动还调整了调度器与图构建逻辑,使 CPU 部分可异步执行、不阻塞设备计算,
开发者 Space Time 在 Hugging Face 发布了 Suri-Qwen-3.8-27B-Companion-GGUF,这是一个基于 Qwen3.8 27B 的陪伴型聊天模型,并提供 GGUF 量化版本。模型卡给出了推荐的 Temperature、Top P 与 Repetition Penalty 参数,并附有 QQ 群和邮箱联系方式。该发布
Vercel AI SDK 发布了 @ai-sdk/zai 3.0.49 补丁版本,该版本仅更新了依赖项,包括 @ai-sdk/provider-utils 5.0.76、@ai-sdk/openai-compatible 3.0.87 和 @ai-sdk/provider 4.0.37。此次更新属于常规依赖同步,未包含功能变更或新特性说明。
开发者 fidel1234 在 Hugging Face 发布开源 LoRA 模型 Krea2 Asian Character,基于 krea/Krea-2-Raw 与 Krea-2-Turbo 训练,主要面向日系角色生成。该模型采用 MIT 许可,使用 AI-Toolkit 在 Krea2 raw 上训练,兼容 ComfyUI 的 raw 与 turbo
用户 Vishva007 在 Hugging Face 发布了 Qwen3.8-27B 的 W4A16 量化版本,使用 Intel AutoRound 算法生成,组大小为 64,视觉塔与 MTP 层保留 BF16 精度。量化后显存需求从约 54GB 降至 16–18GB,可在单张 24GB 消费级显卡上运行,并支持通过 vLLM 部署。
Vals AI 的 CyberOffense 基准测试显示,AI 智能体能够自主入侵模拟企业网络。OpenAI 受限项目中的 GPT-6 Sol 在 Lighthouse 测试中完成 31 个目标中的 27 个,而开源权重模型 Deepseek V4.1 Flash 1017 完成 21 个,成本仅为前者的约七分之一。研究还发现,开源与闭源前沿模型在网络攻击
Hugging Face 上发布了 Jackrong/Qwen3.8-27B-MTP-GGUF 模型仓库,将 MTP(多 token 预测)头直接打包进 Qwen3.8-27B 的 GGUF 量化版本,从而无需额外草稿模型即可实现投机解码。据其内部测试,生成吞吐约提升 2 倍(24.05 vs 12.09 tok/s),平均端到端延迟降低约 1.88 倍,草
Nous Research 对阿里巴巴的 Qwen3.8-27B 进行监督微调,使用约 5300 万 token 训练出 Arete-27B,将模型回答中的中国官方宣传比例从 22% 降至 0.9%,同时基本保持通用能力。团队用 803 条提示词、以 Grok 4.7 作为评判模型构建测试,称中国开源模型的政治倾向只是可被剥离的"薄层"。该模型的权重、测试集
llama.cpp 发布 b12189 版本,修复 Metal 后端 GROUP NORM 算子在 ne03 1 及非连续输入下的错误:原内核忽略批次维度,导致除首批外数据未被写入。修复后按 (group, i03) 分派线程组、按批次计算统计量,并支持跨步访问与 F32 类型门控。该更新提升 Apple Silicon 上相关算子的正确性,同时提供各平台预
llama.cpp 发布 b12187 版本,主要变更为在 WebGPU 后端实现 group norm(分组归一化)算子,包括新增 WebGPU 专用 CI 工作流、参数化数据类型、二维工作组调度以及 group norm 性能测试。该版本同时提供覆盖 macOS、iOS、Linux、Android、Windows 的多平台预编译包,涵盖 CUDA、Vul
llama.cpp 发布 b12186 版本,主要变更是为 Vulkan 后端的 decodeBuf 声明添加 readonly 修饰符(PR #31833),作者期望在未来驱动版本中借此获得性能提升。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台多后端(CUDA、ROCm、Vulkan、SYCL、OpenVINO
llama.cpp 发布 b12185 版本,主要修复了 CUDA 后端中 lightning indexer 的共享内存 bank conflicts 问题(PR #31803)。同时该版本提供了覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译二进制包,涵盖 CUDA 12/13、Vulkan、R
开发者 taronaeo 在 Hugging Face 发布了 Granite-4.0-1B-BE-GGUF,这是 IBM Granite-4.0-1B 的量化 GGUF 版本,并做了字节序转换,以便在 IBM Z 与 LinuxONE 大型机(s390x、z15/z16/z17)上运行。该仓库提供从 Q2 K 到 F32 的多种量化文件,并给出用 llam
Quarkus LangChain4j 发布 2.0.0.Beta3 版本,由 @geoand 等贡献者通过多个 PR 完成 Beta1 至 Beta3 的迭代,并修复了发布流程中缺少 -Dplatform-deps 参数导致的失败问题。该版本是 Quarkus 生态中集成 LangChain4j 的扩展组件更新,属于开源项目的常规版本发布。
Tiger Data 发布开源 PostgreSQL 扩展 pg vectorsearch(alpha 版),其 PRISM 索引采用分区与压缩而非图结构,在 1 亿向量基准中建索引耗时 1 小时 40 分、内存 128GB,而 pgvector 的 HNSW 需 42 小时、512GB。该扩展兼容现有 pgvector 列,可减少独立向量库的基础设施需求,
llama.cpp 发布 b12184 版本,主要修复是补上缺失的 pthread 链接,并将 Threads::Threads 改为私有链接。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译二进制包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。此次更新属于构建层面的小修复,不影响
llama.cpp 发布构建版本 b12183,主要变更是为 OpenCL 后端新增 arange 算子支持(PR #31829),该改动由 Claude 辅助完成,高通工程师 Li He 参与共同署名。发布包覆盖 macOS/iOS、Linux(含 CUDA、Vulkan、ROCm、SYCL、OpenVINO、Snapdragon 等后端)、Android
Xinference 发布 v4.2.0,新增 Windows 服务重启、Web UI 内检查并安装更新、Worker 控制器会话准入等能力,并扩展对 DeepSeek-V4.1-Flash-1017、Qwen NVFP4/YaRN、MiniMax-H3、Qwen3 实时音频及多款 OCR/TTS 模型的支持。该版本还引入 Xavier 跨引擎前缀缓存共享、