llama.cpp b12240：Responses API 支持 json schema 转换
llama.cpp 发布 b12240 版本，主要变更是其 server 的 Responses API 支持将 text.format.json schema 转换为 completions 请求格式。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台、多后端（CUDA、Vulkan、ROCm、SYCL、OpenVIN
开源生态
技术方向 · 开源模型、框架与仓库动态：权重开放、社区项目、开源与闭源的力量对比 · 共 2099 条
只展示置信度达到公开门槛且每篇排名前三的主题标签，降低泛化误贴。
11月10日周二 · 15 条
正文结构化主题已通过公开置信门槛
正文结构化主题已通过公开置信门槛
huihui-ai 发布 Qwen3.6-35B-A3B 去审查 GGUF 版本
huihui-ai 在 Hugging Face 发布了 Huihui-Qwen3.6-35B-A3B-abliterated-MTP-GGUF，这是基于 Qwen/Qwen3.6-35B-A3B 通过 abliteration 技术移除拒答行为的无审查版本，并提供 GGUF 量化格式。该模型附带 patch-unsloth 补丁，可对 unsloth 的多
正文结构化主题已通过公开置信门槛
llama.cpp 发布 b12239：实时 API 改用 common chat input
llama.cpp 发布构建版本 b12239，主要变更是服务端在实时 API 中改用 common chat input。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包，覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。此次更新属于开源推理框架的常规迭代，对使用 llama.cpp
正文结构化主题已通过公开置信门槛
llama.cpp b12238 新增 OpenAI 兼容语音端点
llama.cpp 发布 b12238 版本，其 server 组件新增了与 OpenAI API 兼容的 /v1/audio/speech 端点，用于文本转语音（TTS）输出。该 PR 同时补充了端到端 pytest 测试，并统一了 WAV 写入与 pcm f32 to s16 的舍入行为，使 /tts 与 /v1/audio/speech 共用 pars
正文结构化主题已通过公开置信门槛
llama.cpp b12237：mtmd 支持 Gemma 4 音频输入流
llama.cpp 发布 b12237 版本，其 mtmd（多模态）模块新增对 Gemma 4 输入音频流的支持，采用 480ms 步长处理音频。同时修复了 server 端实时嵌入逻辑：此前实时槽位强制开启 embeddings，导致带音频流的聊天模型（如 Gemma 4）在首批音频行上中止，现在仅对生成音频的模型保留 n batch 输出。该版本同步提供
正文结构化主题已通过公开置信门槛
MiniMax 发布全模态生成系统 MiniMax-H3
MiniMax 在 Hugging Face 发布 MiniMax-H3 全模态生成系统，支持文本、图像、视频、音频统一理解，可生成带原生立体声的视频，最高 2K 分辨率、15 秒时长。系统由 H3-Context-IR、H3-Base、H3-Regenerate-2K 三个模块组成，提供 Base-FL2VA 与 Base-Ref2VA 两种变体，并同步开
正文结构化主题已通过公开置信门槛
LiteLLM 发布 1.108.4 LTS 修复多项路由与 SDK 问题
LiteLLM 发布 1.108.4 LTS 版本，共包含 10 个 PR，其中 7 项修复、1 项变更，官方称升级无需额外操作。修复覆盖 AWS Bedrock 上 GLM、GPT-6 Luna、Nova 2 的 400 错误及 guardrailConfig 强制执行、Vertex AI Claude 批量任务 404、/v1/messages 加密推理
正文结构化主题已通过公开置信门槛
llama.cpp b12236 发布：mtmd 新增重采样辅助函数
llama.cpp 发布 b12236 版本，核心变更为 mtmd 模块新增 mtmd helper resampler 辅助函数，并同步更新文档、补充测试，同时引入 MA MAX FILTER ORDER 常量。该版本照例提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多后端预编译二进制包，涉及 CUDA
正文结构化主题已通过公开置信门槛
中大本科生推反AI逆向项目BLA，令黑客Token账单暴涨300倍
中山大学软件工程专业大三学生Timo Zhang开发了名为BLA的开源项目，通过投毒假线索、触发分析器配额上限、诱导误判三步，让AI逆向Agent的Token消耗暴增300至2800倍。该项目已获3900+星标和476次fork，被视为对一周内刷下10万+星的AI逆向工具REA的反制。
正文结构化主题已通过公开置信门槛
langchain-fireworks 发布 1.7.3 版本
LangChain 发布 langchain-fireworks 1.7.3 版本，主要修复了 Fireworks 集成中 max tokens 默认值改为从模型配置（model profiles）读取的问题，并同步刷新了模型配置数据。该更新影响使用 LangChain 调用 Fireworks 模型的开发者，属于常规维护性修复。
正文结构化主题已通过公开置信门槛
llama.cpp b12233：支持外部 PLE 文件加载
llama.cpp 发布 b12233 版本，新增外部 PLE 文件加载功能：模型加载器可将 --ple 作为 --shard 的别名，支持逗号分隔的多个分片路径并复用多分片加载路径，同时移除原有的 ple path、path ple 等独立接口。该改动让 PLE 分片可覆盖张量，并让 --fit 与路由内存测量加载全部分片，同时提供各平台预编译二进制。
正文结构化主题已通过公开置信门槛
kindlingai 发布 DeepSeek-V4.1-Flash 的 exlr8 多精度量化权重
Hugging Face 用户 kindlingai 发布了 deepseek-v4.1-flash-exlr8，这是对 DeepSeek-V4.1-Flash-1017 官方权重的重新打包版本，采用 exlr8 v2 文件布局，并为第 0-7 层及第 38-39 层的专家权重额外提供 4-bit、3-bit、2-bit 的 trellis 量化编码。仓库通
正文结构化主题已通过公开置信门槛
llama.cpp 发布 b12230：ggml-zdnn 后端兼容性修复
llama.cpp 发布构建版本 b12230，主要变更是 ggml-zdnn 后端现在接受非 zdnn 张量，并在每次算子执行后使计算张量失效（由 IBM 的 Aaron Teo 提交，PR #31824）。该版本同时提供覆盖 macOS/iOS、Linux（含 s390x zDNN、CUDA、ROCm、Vulkan、SYCL、OpenVINO）、Andr
正文结构化主题已通过公开置信门槛
llama.cpp b12229 修复 response format 顶层 json schema 被忽略问题
llama.cpp 发布 b12229 版本，修复了 server 端 OpenAI 兼容 chat completions 接口对 response format 中 json schema 的处理问题。此前当 schema 直接以 response format.schema 顶层形式提供（README 中有文档、部分客户端也这样用）时会被静默忽略，导致
正文结构化主题已通过公开置信门槛
llama.cpp b12228：ggml 为 TRI 算子实现反向传播
llama.cpp 发布 b12228 版本，核心变更为在 ggml 中为 TRI 算子实现反向传播：此前 GGML OP TRI 在 backward switch 中缺少分支，含该算子的可训练计算图会因报错中止。由于该算子为线性运算，其梯度采用相同的掩码方式处理，并先将可能非连续的传入梯度转为连续以满足 ggml tri 要求。该版本同时提供 macOS
11月9日周一 · 5 条
正文结构化主题已通过公开置信门槛
腾讯AI负责人：AI生物武器将至，封闭模型并非解法
腾讯首席AI科学家姚顺雨警告AI将很快具备开发生物武器的能力，认为完全开源或完全闭源都无法单独解决该问题，主张开源与闭源混合以兼顾防御用途。他以Hugging Face安全事件为例说明闭源模型的安全过滤可能阻碍防御性分析，而开源模型可被用于日志取证。文章同时讨论了开源模型安全过滤易被"消融"技术移除、闭源模型过滤过度激进的问题，并提及中美均未设定开源模型发布
正文结构化主题已通过公开置信门槛
NVIDIA 发布 Cosmos 3 四个开放世界模型
NVIDIA 在 Hugging Face 发布 Cosmos 3 世界模型家族的四个新开放权重检查点，均基于 Cosmos 3 Nano 后训练，拥有 160 亿可训练参数，采用 OpenMDW1.1 许可，允许商用与非商用。四个模型分别面向自动驾驶多视角数据生成、相机与 LiDAR 同步流式仿真、物理模拟器控制转逼真视频，以及双臂机器人动作预测。NVID
正文结构化主题已通过公开置信门槛
DeepBeepMeep 发布 MiniMax-H3 模型及 WanGP 更新
DeepBeepMeep 在 Hugging Face 发布 MiniMax-H3 图像模型集合，供开源视频生成工具 WanGP 使用。WanGP 支持 Wan、Hunyuan Video、Flux 1/2、Qwen、Z-Image、LTX-2 等模型，最低 6GB 显存即可运行，并兼容旧款 GPU。此次更新新增 TaoMate H3 FL2VA 3-Ste
正文结构化主题已通过公开置信门槛
Qwen3.5-2B 网络安全微调模型发布 GGUF 量化版
开发者 reaperdoesntknow 在 Hugging Face 发布了 Qwen3.5-2B-CyberSec 的 GGUF 量化版本，基于 unsloth/Qwen3.5-2B 微调，并使用 Trendyol 网络安全指令微调数据集。该版本提供 BF16、Q8 0、Q4 K M 三种量化文件，支持 llama.cpp 和 Ollama 本地推理，面
正文结构化主题已通过公开置信门槛
Qwen3.5-0.8B Cyber GGUF 量化模型发布
用户 reaperdoesntknow 在 Hugging Face 发布了基于 Qwen/Qwen3.5-0.8B 的 GGUF 量化模型仓库 Qwen3.5-0.8-Cyber-GGUF，提供从 BF16 到 Q2 K L 的多档量化版本，并附有 llama.cpp 与 Ollama 的本地运行命令。该仓库未公开微调数据集、训练配方和评测结果，作者明确说