NVIDIA Qwen3.8-Flash-Next NVFP4 权重转换为 Strata 格式
Hugging Face 用户 Maximilian228 将 NVIDIA 的 Qwen3.8-Flash-Next-NVFP4 检查点(由 NVIDIA Model Optimizer 量化)转换为 Strata NVFP4 引擎可读的文件格式,权重本身未改动。该 125B 混合 MoE 模型因此可在单张 RTX 20-50 显卡(12GB 以上显存)加
技术方向 · 开源模型、框架与仓库动态:权重开放、社区项目、开源与闭源的力量对比 · 共 2111 条
只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。
Hugging Face 用户 Maximilian228 将 NVIDIA 的 Qwen3.8-Flash-Next-NVFP4 检查点(由 NVIDIA Model Optimizer 量化)转换为 Strata NVFP4 引擎可读的文件格式,权重本身未改动。该 125B 混合 MoE 模型因此可在单张 RTX 20-50 显卡(12GB 以上显存)加
开发者 Maximilian228 在 Hugging Face 发布了 Qwen3.8-Flash-Next 的 NVFP4 GPTQ 量化版本,将全部路由专家量化为 NVFP4 并打包为 Strata NVFP4 格式。该 125B 混合专家模型可在单张 12GB 显存显卡加 64GB 内存的 PC 上运行,与 Q8 0 参考模型的下一个 token 一
llama.cpp 发布 b11857 版本,核心变更是 ggml 允许 MUL MAT ID 使用 -1 索引来跳过计算,并同步更新了 Vulkan、WebGPU、CUDA、OpenVINO 等后端实现(本 PR 暂排除 CUDA)。该版本同时提供 macOS、Linux、Windows、Android 等多平台多后端的预编译二进制包。
Vercel AI SDK 发布了 @ai-sdk/zai 3.0.40 补丁版本,主要更新了 README 文档格式并避免重复内容,同时同步升级了 @ai-sdk/provider、@ai-sdk/openai-compatible 和 @ai-sdk/provider-utils 等依赖包。该更新属于常规维护性发布,对功能无实质影响。
Vercel AI SDK 发布 @ai-sdk/xai@5.0.30 补丁版本,主要更新 README 文档格式并避免重复内容,同时同步更新 @ai-sdk/provider 至 4.0.34、@ai-sdk/provider-utils 至 5.0.68 两个依赖。此次为常规维护性发布,无功能性变更。
Vercel AI SDK 发布 @ai-sdk/workflow-harness 1.0.164 补丁版本,主要更新 README 文档格式并避免重复内容,同时同步更新了 @ai-sdk/harness 等依赖版本。该版本为常规维护性发布,未涉及功能或 API 变更。
Vercel AI SDK 发布 @ai-sdk/workflow 2.0.85 补丁版本,主要更新 README 文档格式并避免重复内容,同时同步升级 @ai-sdk/provider、ai 和 @ai-sdk/provider-utils 等依赖版本。此次更新属于常规维护,未涉及功能或 API 变更。
llama.cpp 发布 b11856 版本,主要变更是新增投机解码拒绝采样(speculative rejection sampling)的测试(#30213),用于验证草稿模型产生的 token 与目标模型分布一致,确保拒绝采样后仍保持与直接采样目标模型相同的概率分布。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译
SoAI 在 Hugging Face 上发布了 Qwen3.5-9B 的 GGUF 量化版本,面向 llama.cpp 与 SoAI 使用。该模型为 9B 稠密架构,支持图像输入、思考模式与工具调用,上下文达 256K,提供 Q4 K M 与 Q8 0 两种量化文件及图像投影附加文件。Q4 K M 使用基于真实聊天、代码与工具调用语料校准的 imatrix
SoAI 在 Hugging Face 发布了 Qwen3.5-4B 的 GGUF 量化版本,提供 Q4 K M 与 Q8 0 两种量化文件,并附带用于图像输入的 mmproj 组件。该版本基于 Qwen 原模型量化,支持思考、图像输入与工具调用,上下文窗口达 256K,可通过 llama.cpp 在本地运行并提供 OpenAI 兼容 API。其 Q4 K
Hugging Face 博客宣布推出 SimReady Central,这是一个在 Hugging Face 上免费开放、无需申请即可使用的 OpenUSD 仿真就绪 3D 资产库,汇集了 2000 多个资产,涵盖机械臂、夹爪、仓储设备、机架和冷却基础设施等。这些资产自带碰撞几何、质量、摩擦等仿真所需属性,可降低开发者搭建机器人仿真环境和 AI 工厂数字孪
llama.cpp 发布 b11853 版本,主要修复 HIP 后端在缺少 builtin amdgcn perm 内建函数时的字节置换回退问题。由于 amdgcnspirv 会拒绝未用 builtin amdgcn is invocable 保护的目标特定内建函数,此前 145 个 HIP 文件中有 66 个构建失败。该改动将 perm 调用封装为辅助函数
Hugging Face 用户 SC117 发布了 Swift-1.5-Qwen3.8-Flash-Next 的 GSQ-RCO-abliterated GGUF 量化版本,该模型基于 ukisai 的 Swift 1.5(Qwen3.8-Flash-Next 的高效推理衍生版)。作者通过字节级张量移植,在全部 48 层中替换了 144 个写入残差流的张量,
Hugging Face 用户 SC117 发布了 Qwen3.8-Flash-Next-GSQ-RCO-abliterated-GGUF,这是对 ISTA-DASLab 官方 GSQ-RCO 量化模型的“去审查”(abliterated)版本。作者未重新计算任何 GSQ 学习到的量化张量,而是将全部 48 层中 144 个写入残差流的投影张量替换为现成 a
LiteLLM 发布 v1.105.4,共包含 4 个 PR,其中 1 项需要用户采取行动:Docker 镜像与 Helm chart 的 cosign 签名密钥已更换为 commit e82a3c6 中的新密钥,使用旧密钥(commit 0112e53)验证将失败。同时,SDK、proxy 与 Docker 镜像的证书信任包中移除了 eMudhra 根 C
llama.cpp 发布构建版本 b11852,主要变更是将 mtmd 模块中的 build inp temporal merge 函数移至基类(PR #31065)。该版本同时提供 macOS/iOS、Linux、Android、Windows 等多平台预编译二进制,覆盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO、Snapdragon
llama.cpp 发布 b11851 版本,主要更新 mtmd 多模态模块:为 LFM2 和 d1-omni 视觉模型新增与 torchvision 一致的 bilinear 和 bicubic 图像缩放算法,通过将 Pillow 移植版的权重舍入到 int16 精度再缩放回 22 位,使输出与 torchvision 相同。此前 Pillow 移植版在约
llama.cpp 发布 b11850 版本,在 mtmd 模块中新增对 Soprano TTS 的支持,将 Soprano-80M 与 Soprano-1.1-80M 作为音频生成模型接入,其结构为 Qwen3 主干加 Vocos 解码器,以仅生成式 mmproj 形式运行。改动包括转换脚本识别 Soprano 检查点、新增 soprano 预分词器、mt
PydanticAI 发布 v2.61.0,主要新增结构化引用(citations)支持,覆盖 TextPart、Bedrock/OpenRouter/xAI 归一化、消息历史回放及 Vercel AI 适配器;同时新增 kimi-k3.1-pro 等模型名、实时会话音频输出能力标记与持久化引擎公开扩展接口。该版本还包含多项兼容性调整与缺陷修复,涉及 thi
llama.cpp 发布 b11849 版本,主要变更为 Hexagon 后端新增 SGN(符号)算子支持,并利用符号位进行优化、补充 f16 支持,同时将 SGN 改为使用通用 unary colapse 并放宽维度折叠检查条件。该改动由高通工程师参与贡献,并随版本提供 macOS、Linux、Windows、Android 等多平台及 CUDA、Vulk