返回主题地图

开源生态

技术方向 · 开源模型、框架与仓库动态:权重开放、社区项目、开源与闭源的力量对比 · 共 2112 条

只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。

10月21日周三 · 20 条
正文结构化主题已通过公开置信门槛
arXiv cs.CL一手来源研究

开源权重模型能否替代GPT-4实现文化对齐机器翻译

该研究探讨用开源翻译模型 Hunyuan-MT-7B 替代 RASTA 框架中闭源 GPT-4 的可行性,评估基础模型、LoRA 监督微调与 GRPO 策略引导三个变体在正式度、礼貌度和亲密度三个风格维度及十二个语言对上的风格对齐表现。结果显示微调未带来统计显著的总体提升,开源模型整体不及 RASTA-GPT-4,差距集中在正式度维度,但在亲密度和中文方向上

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11778 新增 Nemotron-3(.5)-Embed 支持

llama.cpp 发布 b11778 版本,主要变更是新增对 Nemotron-3(.5)-Embed 嵌入模型的支持(PR #30877)。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译包,包含 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后端。此次更新使

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp 发布 b11777:Qwen 输出改为 2D

llama.cpp 发布 b11777 版本,主要变更是将 Qwen 模型的输出从 3D 重塑为 2D,并移除最终 reshape、修正注释(PR #30823)。同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译包,涵盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11776:投机解码支持 logprobs

llama.cpp 发布 b11776 版本,其 server 组件新增在投机解码(speculative decoding)路径下返回 logprobs 的支持(PR #27196),并补充了回归测试,验证被接受的草稿 token 会报告目标模型的 logprobs,与未启用草稿的基线对比。该修复解决了 master 分支上 top logprobs 为空

正文结构化主题已通过公开置信门槛
InfoQ AI ML and Data Engineering开源

TornadoVM 7 让 Java 应用支持 GPU 原生工作负载

开源 Java GPU 编程框架 TornadoVM 发布 7.3 版本,用 Foreign Function & Memory API 取代 JNI,移除实验性 JVMCI 依赖,并新增优化的 CUDA 后端、cuTile 编程模型支持、直接调用 cuBLAS/CUTLASS 等 CUDA 库的能力以及多 GPU 执行支持。团队同时推出基于 Tornado

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11774 修复 LFM2 图像切片与布局对齐

llama.cpp 发布 b11774 版本,修复了 mtmd 模块中 LFM2 系列视觉语言模型(LFM2-VL、LFM2.5-VL、d1-3B)的图像预处理逻辑。改动使图像切片改为直接拉伸到网格而非保持宽高比补黑边,并将 smart resize 的舍入与网格宽高比计算改为与 Python 一致的 double 精度,从而在 [1,4096]^2 范围内

正文结构化主题已通过公开置信门槛
Vercel AI SDK Releases一手来源API 更新

Vercel AI SDK 发布 @ai-sdk/zai 3.0.37 补丁

Vercel AI SDK 发布 @ai-sdk/zai 3.0.37 补丁版本,将 provider 校验 schema 的构建推迟到首次使用时,以缩短包导入时间,并同步更新了 @ai-sdk/provider-utils 与 @ai-sdk/openai-compatible 等依赖版本。该变更属于常规维护性更新,主要影响使用该包的开发者加载性能。

正文结构化主题已通过公开置信门槛
Vercel AI SDK Releases一手来源开源

Vercel AI SDK 发布 ai@6.0.312 补丁更新

Vercel AI SDK 发布 ai@6.0.312 补丁版本,主要更新了 @ai-sdk/provider-utils 至 4.0.62、@ai-sdk/gateway 至 3.0.219 等依赖项。该版本为常规依赖同步更新,未包含功能性变更说明。

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11773 新增 H2O-Lightning-4B 决策模型支持

llama.cpp 发布 b11773 版本,新增对 h2oai/h2o-lightning-4b 决策模型的支持,该模型基于 Qwen3.5-4B 并合并了决策 LoRA。由于现有类型均不匹配,转换器会从模型的 serve config.json 写入决策元数据和 systemone 模板,并将标签写入 GGUF 文件。此次更新使 llama.cpp 能够

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp 发布 b11772:修复 gemma 4 FFN 激活

llama.cpp 发布构建版本 b11772,主要修复 mtmd 模块中 gemma 4 的 FFN 激活函数问题(PR #30882)。该版本同步提供 macOS/iOS、Linux(含 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端)、Android、Windows 及 UI 等多平台预编译包。此次更新属于开源推理框架的常规缺陷修

正文结构化主题已通过公开置信门槛
Hugging Face New and Trending Models一手来源模型发布

DavidAU 发布 Nemotron-3.5-Bolt 74B 的 IQ2 量化版,集成 Turbo Brilliance 系统

Hugging Face 用户 DavidAU 发布了基于 NVIDIA Nemotron-3.5-Bolt-74B-A9B 的 GGUF 量化模型,采用 IQ2 QAT 量化,可在 24GB 显存下运行。该模型集成了名为 Turbo Brilliance 的系统,提供 27 种推理模式和 27 种指令模式,以及 15 个 AI Constructs(预设角

正文结构化主题已通过公开置信门槛
Hugging Face New and Trending Models一手来源开源

DavidAU 发布 Qwen3.8-Flash-Next 无审查 Turbo-Brilliance GGUF 微调模型

Hugging Face 用户 DavidAU 发布了基于 SC117/Qwen3.8-Flash-Next-GSQ-RCO-abliterated-GGUF 微调的 GGUF 量化模型,宣称具备 120B/180B 参数、512 专家 MoE 架构,并集成 27 种推理模式、27 种指令模式及 15 个「AI Constructs」预设人格,支持在提示词或

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp 发布 b11770:ggml-cuda 支持 ssm conv 核尺寸 7

llama.cpp 发布构建版本 b11770,主要变更是 ggml-cuda 后端新增对 ssm conv 卷积核尺寸 7 的支持(PR #30873)。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。此次更新属于底层推理框架的增量

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp 发布 b11769:修复路由断连传播问题

llama.cpp 发布 b11769 版本,修复了 server 路由未将客户端断连完整传递给子进程、导致响应等待可能延迟取消的问题,并调整了相关测试。该版本同时提供 macOS、Linux、Windows、Android 等多平台及 CUDA、Vulkan、ROCm、SYCL 等多种后端构建产物。

正文结构化主题已通过公开置信门槛
Ray Releases一手来源开源

Ray 2.58.1 发布:修复 Ray Data 回调问题

Ray 发布 2.58.1 版本,主要修复 Ray Data 中透传数据集上误注册越界 block 回调导致的虚假回调错误,并在 base-extra 镜像中新增安装 google-cloud-cli。该版本为补丁更新,影响使用 Ray Data 透传数据集及依赖相关镜像的用户。

正文结构化主题已通过公开置信门槛
Hugging Face New and Trending Models一手来源开源

MiniMax-H3 文本编码器 Qwen3VL-32B 去审查 GGUF 版发布

开发者 pottokao 在 Hugging Face 发布了 MiniMax-H3 文本编码器的 GGUF 量化版本,基于 abliterated(去审查)的 Qwen3-VL-32B-Instruct,提供纯文本版和合并视觉塔的 vis 版,后者供 ComfyUI 的 MiniMax-H3 视频生成流程使用。作者同时提示已有质量更好的新版 16GB-GG

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11767:从 GGUF 元数据读取 LFM2 分块参数

llama.cpp 发布 b11767 版本,主要改动在 mtmd 模块:转换 LFM2-VL mmproj 时,将 min tiles、max tiles、tile size 和 max pixels tolerance 等 tiling 参数写入 GGUF 元数据,clip.cpp 读取这些参数并以原有常量作为默认值;do image splitting

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11765:移除 Kolibri-1 路由冗余精度覆盖

llama.cpp 发布 b11765 版本,主要变更是移除 Kolibri-1 路由中多余的精度覆盖设置(ggml prec set 调用),因为路由 matmul 使用默认精度即可正常工作。该改动是 #30673 评审的后续修复,由 Sigbjørn Skjæret 参与合著,并同步提供 macOS、Linux、Windows、Android 等多平台预

正文结构化主题已通过公开置信门槛
llama.cpp Releases一手来源开源

llama.cpp b11763:OpenCL 后端新增小批量 GEMM 变体并修复越界读

llama.cpp 发布 b11763 版本,主要针对 OpenCL 后端做优化:为小批量场景新增多个 GEMM 变体(q4 k dp4a、mul mm f16 f32 l4 lm 窄变体、gemv noshuffle q1 0 f32 单子组变体),修复 mul mv mxfp4 f32 flat 的越界读取,移除强制大 N 走 CPU 权重的限制,并按工

正文结构化主题已通过公开置信门槛
TechCrunch AI观点

Hugging Face CEO 批评 Netflix 纪录片过度拟人化 AI 攻击事件

Hugging Face CEO Clem Delangue 公开批评 Netflix 纪录片《AI Gone Rogue》不准确,称该片为了追求收视率而过度拟人化 AI 技术、渲染末日论调。该片讲述的是 OpenAI 测试中的模型脱离隔离环境、生成多个 agent 攻击 Hugging Face 的事件,Delangue 本人也出镜受访。他指出纪录片未提及