在 AWS Trainium 上用 torchtitan 训练 Qwen3
AWS 机器学习博客发布教程,介绍如何在单台 trn2.48xlarge 实例上使用 torchtitan 在 AWS Trainium 上训练 Qwen3。教程给出三种配置:以 Transformers v5 作为建模后端、使用 torchtitan 原生 Qwen3 模型,以及接入 NKI 的 MoE 内核。TorchNeuron 将 Trainium
公司与模型 · 阿里通义千问 Qwen 系列的开源发布与迭代:从旗舰模型到端侧小模型的全谱系
关联由结构化实体与正文位置共同判定 · 最近刷新 2026-11-11 04:34
AWS 机器学习博客发布教程,介绍如何在单台 trn2.48xlarge 实例上使用 torchtitan 在 AWS Trainium 上训练 Qwen3。教程给出三种配置:以 Transformers v5 作为建模后端、使用 torchtitan 原生 Qwen3 模型,以及接入 NKI 的 MoE 内核。TorchNeuron 将 Trainium
研究者提出 Progress-Aligned Recurrence(PAR)训练方法,让循环语言模型在第 k 次迭代时预测前 k 步操作后的状态,并将循环状态重新缩放到首次迭代的范数。在 swap-S 5 任务上,仅用最多 32 步序列训练的 Qwen2.5-0.5B 模型在 512 步时达到 95.5% 全状态准确率,实现 16 倍长度外推,显著优于 RL
NVIDIA 在柏林 GTC 上展示了其本地 AI 硬件全线产品,包括面向 Windows PC 的 RTX Spark、面向开发者的 DGX Spark 以及面向企业的 DGX Station。RTX Spark 支持在设备端运行个人智能体,DGX Spark 新增 64GB 版本并支持最多八台集群,DGX Station 则提供 748GB 内存和 20
开发者 DogukanUrker 在 Hugging Face 发布了 Qwen/Qwen-Image-2.1-Turbo(8 步蒸馏的 7B DiT 文生图模型)的 GGUF 量化版本,使用 stable-diffusion.cpp 在发布当天从官方 diffusers 权重转换,并在单张 RTX 3060 12GB 上测试了每个量化档位。该版本面向 st
llama.cpp 发布 b11777 版本,主要变更是将 Qwen 模型的输出从 3D 重塑为 2D,并移除最终 reshape、修正注释(PR #30823)。同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译包,涵盖 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等后端。
该论文以符号回归作为可观测的科学搜索任务,在固定调用预算下比较了不同通信结构(Independent、Ring、Star、Complete)的 LLM 多智能体团队,并分别评估其候选表达式存档与最终选出的表达式。结果显示,将预算分散到更多独立轨迹带来的提升最大(平均留出拟合分数提高 0.70),而 Ring 策略在统一存档选择器下比 Independent
cyankiwi 在 Hugging Face 发布了 Qwen3.5-9B 的 AWQ-BF16-INT8 量化版本,基于 Qwen/Qwen3.5-9B 使用 llm-compressor 完成量化,校准数据来自 nvidia/Llama-Nemotron-Post-Training-Dataset,模型体积约 14.14 GB,采用 Apache-2.
llama.cpp 发布 b11729 版本,为 Qwen3 模型新增双向注意力(bidirectional attention)与 dense 2 输出投影支持,并在转换脚本 base 中读取 use bidirectional attention 配置。该改动由社区贡献者提交、Grok 辅助完成,同时发布覆盖 macOS、Linux、Windows、An
ISTA-DASLab 在 Hugging Face 发布 Qwen3.8-Flash-Next 的 GSQ-RCO Coder 压缩版本,通过移除 50% 的专家(512 个中保留一半)并将剩余权重以 3.5 bpw 量化,把模型从 354 GB 降至 58.4 GB,常驻内存仅 29.6 GB,可放入单张 32 GB 加速卡。该版本面向代码、智能体工具调
该论文提出 NoveltyScope,一个多智能体科研辅助原型,通过将论文与本地语料库中的先前工作进行检索比对,生成结构化报告和五级新颖性评分。系统提取核心任务与最多两项作者声称的贡献,使用 BM25 与稠密检索及倒数排名融合,并让检察官、辩护人、法官和批评者四个角色基于证据进行评分,法官最多可修订一次。在 50 个 RINoBench 样本上,多智能体评分
香港浸会大学等机构的研究者提出 AlphaDiana,一个用于可验证推理任务中智能体评测的测量系统,提供数据集、智能体、环境和评分器的模块化接口,并能在匹配条件下对工具、技能、记忆等组件做微观干预。研究在五个基于答案的基准上测试了三个开源模型与三个开源 harness,另有两个模型在交互式基准上测试,发现 harness 并不稳定提升推理准确率,技能引导与历
OpenAI基础设施负责人Sachin Katti宣布将于11月15日离职,由计算首席技术官Uday Ruddarraju接任领导整体计算部门,这是OpenAI今年一系列高管离职的最新一起。国内方面,DeepSeek因API服务故障向用户发放全额赠金补偿,年内已至少18次服务异常;阿里加码AI硬件品牌并联动天猫、速卖通;国行版苹果AI有望12月上线,百度、阿
开发者 handy-computer 在 Hugging Face 上发布了 Qwen3-ASR-0.6B 的 GGUF 量化版本,供 transcribe.cpp 推理框架使用。该模型基于 Qwen/Qwen3-ASR-0.6B 转换而来,支持 30 种语言的离线多语言语音识别与自动语言检测,并提供 BF16 至 Q4 K M 多种量化档位。在 Libri
范式智能联合睿思智联推出开源一站式生产级 AI 部署平台“模域”(ModelSphere),面向企业免费开源并已在 GitHub 上线。平台整合算力管理、模型部署与运行优化,支持华为昇腾、天数智芯、摩尔线程、海光 DCU 等国产芯片的统一调度,并已适配 DeepSeek-V4、Qwen、Kimi 等主流模型。官方称其 AutoTune 等能力可使系统极限吞吐
苹果 Apple Intelligence 在中国大陆上线进入最后阶段,计划于今年 12 月通过 iOS 27.3 系统更新正式推出,首批上线的是两年前已在美国发布的 AI 功能,覆盖 iPhone、iPad 和 Mac,不包含今年发布的全新 Siri AI 助手。苹果在华与百度就搜索及 Siri 相关功能合作,并将阿里 AI 模型(含通义万相和 Qwen)
苹果公司收盘市值首次正式突破5万亿美元,成为继英伟达之后全球第二家达成此成就的上市公司,且是在科技股集体下跌的行情中逆势完成。与此同时,记者古尔曼爆料苹果计划于今年12月随iOS 27.3在中国大陆上线Apple Intelligence,首批功能仅包括Genmoji、通知摘要、写作工具和照片消除等2024年基础能力,新版Siri AI不在首发名单中。苹果将
该论文提出一种用于在线策略蒸馏(OPD)的 token 效用度量方法,从蒸馏目标本身推导 token 重要性:在相同局部 KL 预算下,每个位置能带来多大损失下降。作者据此提出 Fisher Utility Weighting(FUW),一种连续、均值归一化的 token 加权方案。在七个数学推理基准和三个 Qwen3 学生-教师对上,FUW 在 rever
千问办公于10月14日发布专门服务电商行业的Agent功能「千问办公电商版」,商家切换到「电商经营」模式后,可用一个Agent管理跨平台、多店铺、全流程生意。该版本已接入生意参谋、有赞、千牛、阿里妈妈万相台、FastMoss、LinkFox等主流商家经营工具,提供跨平台作战台、趋势洞察与卖点分析、爆款素材批量生成、跨平台ROI智能盯办四项功能。此前千问办公已
另有 2 家信源报道
研究团队提出 VideoJev,一个基于 System One 范式的视频理解与交互模型系列(4B 和 35B-A3B)。该模型用共享打分头替代自回归答案解码,统一了时间定位与多选视频问答,并支持缓存推理与联合推理以复用视觉计算。在三个时间定位基准上,平均 mIoU 相比 Qwen 主干分别提升 6.7 和 10.8 点,推理加速 2.8-3.1 倍;在四个
研究提出 ChronoRegime 任务,要求模型判断历史时间证据是否足以支持对未来事实做出预测,并据此提出 Confidence-Aware Temporal Reasoning(CTR)框架,从时间动态中估计未来可预测性并调节回答承诺。在 LLaMA-3.1、Qwen3、GPT-4o 等模型上,CTR 相比普通问答基线平均提升严格总体准确率 6.7 个百