社区发布小米MiMo-V2.6-Flash 50%专家剪枝GGUF量化版
社区开发者 patrickbdevaney 在 Hugging Face 发布了小米 MiMo-V2.6-Flash-RL 的 50% 专家剪枝版本 MiMo-V2.6-Flash-REAP50 的 GGUF 量化文件，使用 HOPE 目标在 REAP 显著性基础上选择保留 256 个路由专家中的 128 个。该版本保留原生 MXFP4 专家权重、BF16
开源生态
技术方向 · 开源模型、框架与仓库动态：权重开放、社区项目、开源与闭源的力量对比 · 共 2114 条
只展示置信度达到公开门槛且每篇排名前三的主题标签，降低泛化误贴。
10月12日周一 · 7 条
正文结构化主题已通过公开置信门槛
正文结构化主题已通过公开置信门槛
Jundot 发布 Qwen3.8-27B 混合精度 MLX 量化版
开发者 Jundot 在 Hugging Face 发布了 Qwen3.8-27B-oQ4e-mtp，这是对 Qwen/Qwen3.8-27B 的混合精度 MLX 量化版本，使用 oMLX v0.7.1 的 oQ 量化方法，平均约 4.887 bits/weight，完整权重约 15.8 GiB。该模型为 27B 稠密视觉语言模型，基于 Qwen3.5 架构
正文结构化主题已通过公开置信门槛
Hugging Face 发布 Carbon-A：跨物种基因预测模型
Hugging Face Bio 发布 Carbon-Annotator（Carbon-A），一个 1.2B 参数模型，可直接从 DNA 序列预测蛋白质编码区域，覆盖哺乳动物、脊椎动物、无脊椎动物、植物、真菌和原生生物，支持 98,304 碱基对上下文窗口并在双链上给出核苷酸分辨率预测。在 42 个基准基因组上，其宏观平均核苷酸 F1 达 0.944，优于
正文结构化主题已通过公开置信门槛
mradermacher 发布 Huihui-Qwen3.8-27B 去审查模型 GGUF 量化版
开发者 mradermacher 在 Hugging Face 上发布了 Huihui-Qwen3.8-27B-abliterated 模型的静态 GGUF 量化版本，提供从 Q2 K 到 Q8 0 以及 IQ4 XS 等多种量化规格，并附带多模态 mmproj 文件。该模型基于 huihui-ai 的去审查（abliterated）Qwen3.8-27B
正文结构化主题已通过公开置信门槛
llama.cpp b11559：优化 OpenCL flash attention 并支持 Gemma-4 dk512
llama.cpp 发布 b11559 版本，主要针对 OpenCL 后端进行优化：改进 flash attention，为 Gemma-4 模型开放 dk512 支持，并优化 dk64 的 GQA 解码。改动由高通工程师参与贡献，同时发布了覆盖 macOS、Linux、Windows、Android 等多平台多后端的预编译二进制包。
正文结构化主题已通过公开置信门槛
Qwen3.8-Flash-Next 去审查 GGUF 量化版发布，适配 DGX Spark
Hugging Face 用户 wy2pay 发布了 Qwen3.8-Flash-Next 的去审查（abliterated）GGUF 量化版本，基于 huihui-ai 的 abliterated 模型，采用 IQ4 XS 量化（97.5GB），并附带 LoRA v1 适配器、MTP 投机解码草稿模型和视觉投影器。该版本针对单台 DGX Spark（128
正文结构化主题已通过公开置信门槛
Jundot 发布 Qwen3.8-Flash-Next 的 MLX 混合精度量化版
开发者 Jundot 在 Hugging Face 发布了 Qwen3.8-Flash-Next-oQ4e-mtp，这是对 Qwen/Qwen3.8-Flash-Next 的 MLX 混合精度量化版本，使用 oQ（oMLX v0.7.1）与改进的 oQe 量化方法完成。源模型是 Qwen4 架构的实验性预览，为 125B 参数、6B 激活的 MoE 视觉语言
10月11日周日 · 13 条
正文结构化主题已通过公开置信门槛
llama.cpp b11557：RPC 日志改为分级详细度并统一日志入口
llama.cpp 发布 b11557 版本，主要改进 RPC 后端的日志系统。GGML RPC DEBUG 环境变量被改为数字化的详细级别（0 关闭，1-3 逐级增加输出），并新增共享 log.h 作为 RPC 日志的唯一入口，统一了客户端与服务端的日志宏。此外补充了握手、张量传输、图计算等环节的日志，并将远程分配失败、RDMA 回退 TCP 等降级事件提
正文结构化主题已通过公开置信门槛
llama.cpp b11556 新增 Prism Bonsai 2 27B 支持
llama.cpp 发布 b11556 版本，新增对 Prism Bonsai 2 27B 模型的运行时支持，并配套更新了转换器中的 Prism Hadamard 键与方法。该改动由 Georgi Gerganov 等人提交，部分工作借助 Claude Code 完成。发布同时提供 macOS、Linux、Windows、Android 等多平台预编译二进制
正文结构化主题已通过公开置信门槛
llama.cpp 发布 b11555：修复 AVX2 CPU 未使用 F16C 的问题
llama.cpp 发布 b11555 版本，主要修复了在支持 F16C 的 CPU 上 AVX2 未启用 F16C 的问题（#30270）。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译二进制包，覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后端。
正文结构化主题已通过公开置信门槛
llama.cpp b11554：Vulkan 后端优化 mul mat id 重复处理
llama.cpp 发布 b11554 版本，主要更新为 Vulkan 后端优化：在预处理阶段处理 mul mat id 的重复行 ID，而非循环处理，通过始终启用「hoist row ids」优化并生成紧凑的 tile 描述列表，在需要时发射多个 tile，从而收紧 workgroup 数量上界并让尾部提前退出。该版本同时提供 macOS、Linux、Wi
正文结构化主题已通过公开置信门槛
Qwen-Image-2.1 无审查 GGUF 量化版发布
用户 abenzerps 在 Hugging Face 发布了 Qwen-Image-2.1-Uncensored-GGUF，这是对 Qwen/Qwen-Image-2.1 的 GGUF 量化版本，用于本地图像生成。该仓库提供 BF16、FP8、INT8、NVFP4、MLX 4/6/8-bit 以及 Q8 0 到 Q4 0 等多种量化文件，并附带文本编码器和
正文结构化主题已通过公开置信门槛
Apodex-1.1-mini 发布 GGUF 量化版本
Hugging Face 用户 abenzerps 发布了 Apodex-1.1-mini 的 GGUF 量化版本，该模型为 35.95B 参数的 Qwen3.5 MoE 模型，面向研究、数据、文件和代码等工具驱动任务。量化文件覆盖 IQ1 M 到 Q8 0 共 12 种规格，保留原生 MTP/NextN 头，并提供 F16 视觉投影器以支持图像输入。模型采
正文结构化主题已通过公开置信门槛
本地 AI 初体验：兴奋、压倒与挫败并存
The Verge 作者分享了自己尝试在本地运行 AI 模型的体验，认为本地 AI 兼具兴奋、压倒性和挫败感，但隐私优势使其比云端服务更具吸引力。作者在 M5 Ultra Mac Studio 上安装了开源 Hermes Agent 和 1250 亿参数的 Qwen 3.8 Flash Next 模型，并尝试了每日简报、整理 Steam 游戏库、分析财务数据
正文结构化主题已通过公开置信门槛
LiteLLM v1.105.0 发布：镜像签名验证与多项功能修复
LiteLLM 发布 v1.105.0，所有 Docker 镜像均使用 cosign 签名，并提供了基于固定 commit hash 和 release tag 两种验证方式。本次更新包含大量改动，涵盖 MCP 协议版本配置与能力发现、Redis Cluster 认证缓存失效传播、xAI 原生 batches 与 files 支持、Databricks Ze
正文结构化主题已通过公开置信门槛
LiteLLM 发布 v1.106.0-rc.1：镜像签名验证与多项功能回移
LiteLLM 发布 v1.106.0-rc.1 候选版本，所有 Docker 镜像均使用 cosign 签名，并提供了基于固定 commit hash 和 release tag 两种验证方式。本次更新以从主分支回移（backport）功能为主，包括 Microsoft-Decision-1 决策模型及 Admin UI、System One 请求表单、g
正文结构化主题已通过公开置信门槛
DeepBeepMeep 发布 LTX-2 视频模型，WanGP 工具支持低显存生成
DeepBeepMeep 发布了 LTX-2 视频模型，用于其 WanGP 工具，该工具支持多种开源视频生成模型，包括 Wan、Hunyuan Video、Flux 1 & 2、Qwen、Z-Image 和 LTV。WanGP 旨在降低视频生成的硬件门槛，支持低至 6GB 显存和旧款 GPU，并提供 Web 界面、自动下载模型、Lora 支持等功能。
正文结构化主题已通过公开置信门槛
StartLux-Decision-35B-A3B 的 GGUF 量化版本发布
开发者 mradermacher 在 Hugging Face 上发布了 StartLux-Decision-v1-35B-A3B 模型的 GGUF 静态量化版本，提供从 Q2 K 到 Q8 0 以及 mmproj 多模态补充文件等多种量化格式。该模型为基于混合专家（MoE）架构的决策/分类模型，采用 cc-by-nc-4.0 非商用许可。此举方便用户在本地
正文结构化主题已通过公开置信门槛
Agention 发布 Qwen3.8-Flash-Next 的 ROCmFP4 GGUF 量化版
Agention 在 Hugging Face 发布了 Qwen3.8-Flash-Next 的 ROCmFP4-FAST imatrix GGUF 量化版本，180B 模型以 4.23 bpw 压缩到 87.06 GiB，可完全运行在 128 GB 统一内存设备（如 Strix Halo）的 96 GiB 显存中，困惑度仅比未量化模型高 2.5%。该版本包
正文结构化主题已通过公开置信门槛
Bee-8B-RL：全开放8B多模态模型与1500万SFT数据集发布
Open-Bee 团队发布 Bee-8B-RL，一个基于 Qwen3-8B 的全开放 8B 多模态大语言模型，并配套发布约 1500 万样本的 SFT 数据集 Honey-Data-15M 及数据清洗流水线 HoneyPipe/DataStudio。该模型在复杂推理任务上达到全开放 MLLM 的领先水平，并可与 InternVL3.5-8B 等半开放模型竞争