Unsloth 发布 FLUX 3 Image Klein FP8/INT8 量化版
Unsloth 发布了 FLUX 3 Image Klein 的 FP8/INT8 量化版本,将图像 transformer 从 11.1 GB 压缩至 6.44 GB,同种子 LPIPS 为 0.035(INT8)和 0.036(FP8),SSIM 约 0.95。该版本可在 Unsloth Desktop 中直接加载预量化权重,跳过 bf16 下载与在线量
技术方向 · 开源模型、框架与仓库动态:权重开放、社区项目、开源与闭源的力量对比 · 共 2100 条
只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。
Unsloth 发布了 FLUX 3 Image Klein 的 FP8/INT8 量化版本,将图像 transformer 从 11.1 GB 压缩至 6.44 GB,同种子 LPIPS 为 0.035(INT8)和 0.036(FP8),SSIM 约 0.95。该版本可在 Unsloth Desktop 中直接加载预量化权重,跳过 bf16 下载与在线量
Unsloth 发布了 FLUX.2-klein-4B 的 FP8/INT8 量化版本,该版本基于 black-forest-labs 的 4B 参数 rectified flow 图像模型,旨在降低显存占用、提升推理效率。量化版在同种子下与 bf16 模型的 LPIPS 分别为 0.123(INT8)和 0.104(FP8)。原模型支持文生图与多参考图像编
Hugging Face 用户 DavidAU 发布了 Qwen3.5-9B 的多阶段微调与合并模型 The-Defiant-Fable-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP-GGUF,提供常规与 MTP 两种 NEO Imatrix GGUF 量化版本。作者称该 9B 模型在 7 项基准上超过 Qwen3.5-9B
Hugging Face 用户 DavidAU 发布了基于 Qwen3.6-27B 的多阶段微调模型 Fable-Fusion-711,提供常规与 MTP 两种 GGUF 量化版本。作者称该模型在 8bit 和 4bit 量化下 ARC-C 得分均突破 700(达 711),是首个进入该分数区间的同规模开源微调模型,并在 7 项基准中的 6 项超过原版 Qw
NVIDIA 发布针对韩国主要开源模型的 Dynamo 优化部署配方,涵盖 SK Telecom 的 A.X K2、LG AI Research 的 K-EXAONE 2.0、Upstage 的 Solar Open 2 和 Motif Technologies 的 Motif-3。这些配方针对 NVIDIA B200 GPU 优化,开箱即可带来最高 2 倍
Hugging Face 用户 DavidAU 发布了基于 Qwen3-30B-A3B 混合专家模型的 GGUF 量化版本,通过自研 NEO Imatrix 数据集和 YARN 技术将上下文从 32k 扩展至 128k。该版本提供从 IQ1 M 到 Q8 的多种量化规格及 Max、Max Plus、Max Super、Max ULTRA 等定制变体,可在 G
Hugging Face 用户 DavidAU 发布了基于 Mistral-Nemo-Instruct-2407 的微调模型,先用 abliteration 去审查(拒答率从 87/100 降至 14/100),再用 Claude 4.5 Opus、Gemini 3 Pro、GPT-5.2 三个高推理数据集通过 Unsloth 微调,使其具备思考/推理能力并
Hugging Face 用户 rahul7star 发布了一个名为 gemma-gguf 的 GGUF 量化模型合集,基于 google/gemma-4-E2B-it、gemma-4-12B-it 和 ornith-ai/Ornith-1.5-9B 等模型,并提供 Gradio 演示空间。该合集包含多个编码 Agent 和未审查(heretic/uncen
开发者 farbodtavakkoli 在 Hugging Face 发布了 OTel-2.0-Decision-26B-A4B-4bit,这是基于 Google Gemma 4 26B-A4B-it 的 4-bit W4A16 量化版本,面向分类、是/否问答和有序等级等类型化决策任务,通过读取答案标签概率而非生成文本给出结果。模型在 AMD MI350P
Unsloth 发布了 Lightricks LTX-2.5 蒸馏视频 DiT 的 FP8/INT8 量化版本,将原 38.0 GB 的 bf16 transformer 压缩至 19.1–25.1 GB,文本编码器、VAE 等其余组件保持不变。三个量化文件中 INT8-ConvRot 与 bf16 的 LPIPS 差异最小(0.265),被推荐使用;FP8
Hugging Face 上出现了一个由 pruna 库生成的测试模型 pruna-test/test-save-tiny-random-llama3-smashed-pro,基于 tiny-random-Llama3 构建。该模型卡片介绍了 Pruna 这一面向开发者的模型优化框架,并说明需通过 pruna pro 库加载才能应用全部优化。模型的压缩配置
Open WebUI 发布 v0.13.3 版本,新增在自动化任务中选择终端与工作目录并调用编码 Agent 的能力,同时支持在对话过程中切换终端和文件夹。该版本还修复了终端切换后文件标签页不同步、Agent 出现在不支持的模型选择器中、DeepSeek 思考模式报错等问题,并补充了巴西葡萄牙语翻译。
开发者 realrebelai 在 Hugging Face 发布了 Kandinsky 6.0 Pro 5s 及蒸馏版 5s 的低显存量化版本,提供 W4A8(4bit 权重/8bit 计算)和 GGUF(Q3 K S、Q4 K S)两种格式,面向 ComfyUI 使用。GGUF 路径需要安装两个 RebelAI 兼容性分支节点(Kandinsky6 GG
Latent Space 的 AI Engineer 频道订阅量突破一百万,主持人 swyx 借此采访了斯坦福兼职教授、Monaco AI 负责人 Mihail Eric。Mihail 介绍了斯坦福 CS146S 课程《The Modern Software Developer》的调整:由于学生已普遍使用编码智能体,部分作业改为向开源项目提交补丁,并由维护者
ggml-org 在 Hugging Face 发布了 vllm-d3-nano-GGUF,这是将 vllm-sr/d3-nano 基础模型自动转换得到的 GGUF 量化版本,采用 Apache-2.0 许可,pipeline 标签为 image-text-to-text。该模型被定位为决策模型,需通过 llama.cpp 的 /v1/systemone A
ggml-org 在 Hugging Face 发布了 vllm-d3-flash-GGUF,这是对 vllm-sr/d3-flash 的 GGUF 量化版本,采用 Apache-2.0 许可,pipeline 标签为 image-text-to-text。该模型被定位为决策模型(decision model),需通过 llama.cpp 的 /v1/sys
开发者 LokkenJP 在 Hugging Face 发布 TenEros Max optimized learned,这是基于 TenStrip/10Eros-Max 的 MiniMax-H3 文生视频模型的量化版本。推荐版本 Beta7 fix1 HQ 为 18.73 GB,采用激活引导学习量化(W6 g16 与 INT8 ConvRot),并保留内置
llama.cpp 发布 b12211 版本,主要变更是对 mtmd(多模态)模块进行重构:移除 clip.h,并将相关代码合并进 mtmd(PR #31865)。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。此次重构属于内部代码整
llama.cpp 发布 b12210 版本,主要变更为在 CPU 后端启用 SpacemiT IME2 MXFP4 稠密重打包(dense repack),该提交由 Codex 辅助完成。同时该版本照例提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译包,涵盖 CUDA、Vulkan、ROCm、
llama.cpp 发布 b12209 版本,主要变更为在 llamafile 中实现 bf16 与 q8 0 的 vxe 支持,由 IBM 的 Aaron Teo 提交。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台预编译包,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 及 Snapdrago