Qwen3.8-27B EXL3 量化版:更小下载、更快启动、更高保真
malaiwah 发布了 Qwen3.8-27B 的 EXL3 量化版本,其中注意力权重在磁盘上以 K6 精度序列化,相比 BF16 注意力版本,下载体积减少 29%,冷启动速度提升 5.4 倍,且与 BF16 的 KL 散度更低。该模型需要特定的 Gilded Gnosis vLLM 分支才能运行,属于实验性研究产物。
公司与模型 · 阿里通义千问 Qwen 系列的开源发布与迭代:从旗舰模型到端侧小模型的全谱系
关联由结构化实体与正文位置共同判定 · 最近刷新 2026-11-11 04:34
malaiwah 发布了 Qwen3.8-27B 的 EXL3 量化版本,其中注意力权重在磁盘上以 K6 精度序列化,相比 BF16 注意力版本,下载体积减少 29%,冷启动速度提升 5.4 倍,且与 BF16 的 KL 散度更低。该模型需要特定的 Gilded Gnosis vLLM 分支才能运行,属于实验性研究产物。
诺基亚计划关闭杭州研发中心并裁员1600人,因中国业务持续下滑。DeepSeek API峰谷定价方案生效,高峰时段价格翻倍。苹果与阿里合作深化,阿里参与训练面向中国市场的更强模型。Claude出现大规模服务故障,影响Claude.ai、Claude Code等服务。
AtomicChat 发布了 Qwen3.8-27B 的 GGUF 量化版本,基于 Qwen 原始权重并使用自己的重要性矩阵进行量化。该模型支持文本生成和多模态(图像)输入,提供了多种量化级别,并附有详细的量化分析、运行指南和速度测试。用户可通过 llama.cpp 或 Atomic Chat 应用本地运行该模型。
Ollama 发布了 v0.32.14 版本,主要修复了 llama-server 对 WebP 图像的转码问题,并让 Qwen 渲染器能容忍非开头的系统消息。该版本更新了变更日志,用户可通过 GitHub 查看完整变更。
LuffyTheFox 发布了基于 Qwen3.6-35B-A3B 的未审查多模态 MoE 模型 GGUF 版本,名为 Genesis Hermes V7。该模型通过其自研的 Genesis 算法对张量进行噪声修复,并融合了 Hermes 微调数据,旨在提升模型稳定性和指令遵循能力。模型支持多语言和视觉任务,并提供了量化脚本和推荐配置。
据路透社报道,苹果与阿里巴巴合作,为中国市场训练了一款定制AI模型,这标志着苹果在华策略的转变,从使用国内模型转向自主开发。该模型将在未来几个月内随iOS系统更新推出,苹果已向中国网信办注册该服务。此举使苹果成为首家获准在华提供专有AI模型的美国公司。
阿里巴巴发布了其最大的开源权重模型 Qwen3.8-2.4T-A95B(Qwen3.8-Max),总参数达 2.4T,每个 token 激活 95B 参数,采用细粒度 MoE 架构和全注意力与线性注意力混合设计,支持百万 token 上下文。NVIDIA 宣布该模型可在 GB300 NVL72 平台上以 FP8 精度实现每 GPU 每秒超 4K tokens
llama.cpp 发布 b10375 版本,主要更新为收紧 Qwen 模型的 bare function 解析逻辑。该版本提供了适用于 macOS、Linux、Windows、Android 等多个平台的预编译二进制文件,并支持多种硬件加速后端。
该研究提出无监督在线策略自蒸馏方法(U-OPSD),仅利用模型自身生成和内部一致性(多数投票)构建伪解决方案,无需外部监督即可纠正模型自信的错误。在多个数学推理基准上,U-OPSD 在 Qwen3 非思考模式下相比基础模型提升 8.5% 和 10.7%,并优于或持平于有监督方法 OPSD 和 GRPO。代码已开源。
ONESTRUCTION 公司在 AWS GenAIIC 的技术支持下,基于 Qwen3 模型构建了面向建筑行业 BIM 工作流的领域基础模型 Ishigaki-IDS。该模型通过合成数据生成和 CPT、SFT、RLVR 三阶段训练流程,解决了 IDS 标准数据稀缺、IFC 词汇注入和语法生成等挑战,降低了 BIM 专业人员使用 IDS 的门槛。
NVIDIA 在八月庆祝本地 AI 生态,发布多款新模型和工具,包括 Cosmos 3 Edge、MiniMax-H3、Laguna S 2.1、DeepSeek-V4-Flash、Inkling-Small、Wan-Animate-2 和 LTX-2.5,并支持 Meta 的 Muse Glimmer 模型。这些模型和工具旨在推动本地 AI 和智能代理的发
该研究提出一种基于激活工程的虚假信息检测框架,通过对比真实与虚假陈述的激活差异提取“虚假方向”,并在推理时将未知声明的最后token激活投影到该方向进行分类,无需微调或外部知识检索。方法在Gemma、Llama和Qwen家族的11个模型(270M至12B参数)上评估,在LIAR和FACTors基准上匹配或超越零样本和少样本提示基线,尤其在小模型上提升显著,但
Deepwen 3.6 是基于 Qwen3.6-35B-A3B 的微调模型,融合了 DeepSeek-V4-Flash-0731 的推理能力,专注于 AAA 游戏开发、3D 生成和 Web 图形。该模型提供了多种 MoQ 量化版本,并附带多模态投影器。其改进包括程序化生成、硬表面建模、Blender 工作流等,且保留了 Qwen 的原始能力。
本文研究了在线策略蒸馏(OPD)及其改进版在线策略增量蒸馏(OPD^2)在多语言数学推理中的应用,涵盖英语、韩语和日语。实验基于Qwen3模型,结果显示OPD^2在韩语和日语上显著优于OPD,并缩小了英语与韩语之间的性能差距。此外,仅使用英语数据的OPD虽能提升韩语和日语性能,但会导致回答偏向英语,凸显了多语言数据的重要性。
阿里巴巴的Qwen3.8 Max在Artificial Analysis Intelligence Index上得分56,追平Claude Opus 4.8,但落后于Kimi K3(57分),且Kimi K3成本低25%。在GDPval-AA基准上,Qwen3.8 Max得分超过Kimi K3,但需要更多步骤和输入token,导致成本更高。此外,该模型在AA
斯坦福李飞飞、吴佳俊、张吕民及哈佛Yilun Du等学者联合发表论文MVA,提出将机器人动作转化为像素遮罩轨迹,直接利用现成视频生成模型Wan2.2,仅用15小时数据微调即可实现跨本体泛化。该方法通过URDF和逆运动学解算,解决了机器人跨机型迁移难题,挑战了机器人需专属大模型的主流认知,对具身智能产业影响深远。
DavidAU 发布了基于 Qwen3.6-27B 的多阶段微调模型 Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-MTP,声称在 ARC-C 基准上首次突破 700 分,超越 OpenAI、Claude 和 Gemini 的闭源模型水平。该模型在 4bit 和 8bit 量化下均超过基座模型,
该研究针对中小企业在使用大语言模型时面临的幻觉和错误信息问题,提出了基于检索增强生成(RAG)的VectorRAG和GraphRAG建模方法。研究在LLaMA、Mistral和Qwen等多个先进LLM上进行了实验评估,结果显示RAG增强的LLM能显著减少幻觉和错误信息,提高响应质量和上下文相关性,从而支持更可靠、可信的决策。
SAF-OPD 提出了一种稳定优势融合框架,用于结合强化学习(RLVR)和在线蒸馏(OPD)训练。该框架通过四阶段流程(稀疏化、压缩、预热、退火)解决固定系数融合导致的熵崩溃问题,在七个数学推理和代码生成基准上,使用 Qwen3-1.7B/4B/8B 模型,将聚合分数提升了 0.51-2.70%,并实现了更稳定的训练。
Liquid AI发布了新一代混合模型LFM2系列,包括350M、700M、1.2B和2.6B四个参数规模的检查点,专为边缘AI和端侧部署设计。LFM2采用乘法门和短卷积的新架构,训练速度比上一代快3倍,CPU上的解码和预填充速度比Qwen3快2倍,在知识、数学、指令跟随和多语言等基准上优于同尺寸模型。该系列支持8种语言,上下文长度32,768 tokens