FLUX.1 Kontext可控灯光开关的LoRA方向提取
该研究提出一种针对流匹配扩散模型的微调方法,用于在FLUX.1 Kontext中实现可控的室内灯光开关编辑,无需大规模训练数据集。方法将开灯与关灯分解为两个独立任务,分别训练LoRA适配器,并提出LoRA方向提取训练法以提取适配器在扩散模型流场中的纯方向,同时引入专门损失函数保证逆变换的真实性。生成的增量图还可用于更精确地调整光照颜色和色温。
技术方向 · 训练侧的门道:数据集构建、合成数据、预训练与后训练方法 · 共 926 条
只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。
该研究提出一种针对流匹配扩散模型的微调方法,用于在FLUX.1 Kontext中实现可控的室内灯光开关编辑,无需大规模训练数据集。方法将开灯与关灯分解为两个独立任务,分别训练LoRA适配器,并提出LoRA方向提取训练法以提取适配器在扩散模型流场中的纯方向,同时引入专门损失函数保证逆变换的真实性。生成的增量图还可用于更精确地调整光照颜色和色温。
Hugging Face 上出现 AEON-7 发布的 Qwen3.6-27B-AEON-Ultimate-Uncensored-BF16 模型卡,基于 Qwen/Qwen3.6-27B 进行 abliteration(去除拒绝行为)微调,采用 Apache-2.0 许可,支持多语言、工具调用、推理与视觉。模型卡说明该版本已被 Qwen3.8 版本取代,并提
Cerebras 发布技术博客,讨论如何在真实硬件上高效扩展 MoE 稀疏模型。文章指出,传统 GPU 实现因需将所有专家加载进显存而受限于内存,业界常用专家并行(EP)来缓解,但会带来负载均衡与模型质量之间的张力,以及随专家数量增加的通信开销。Cerebras 称其 WSE 凭借约 900 倍于单 GPU 的片上 SRAM 和权重流式(weight str
Apple 机器学习研究团队提出 RISED 方法,利用跨环境共享的评分标准(rubrics)来指导多环境 LLM 智能体的在线数据选择与策略监督。该方法通过 LLM 评判器为每条 rollout 打上行为标签,据此选择与混合环境批次行为构成一致的数据,并用正向 rubric 作为自蒸馏教师的特权上下文、负向 rubric 引导后续生成避开失败模式。实验显示
研究团队发布 QUASAR-QAT/Qwen3.8-27B-QUASAR-NVFP4,这是基于 Qwen/Qwen3.8-27B 的 4-bit NVFP4 量化版本,采用名为 QUASAR 的量化感知训练(QAT)方法直接训练 NVFP4 权重,无需自定义推理路径。该模型体积 19.7 GB,将全部 496 个 transformer 线性层量化为 NVF
Reka AI 发布 19B 参数的全模态模型 Rho-1 研究预览版,可在单一神经网络中处理并生成文本、图像、视频和机器人控制动作。与将任务路由到专用模型的做法不同,Rho-1 将所有模态作为 token 放入共享上下文窗口,无需工具调用或外部模型,可实时生成连续视频并即时响应新指令。为缓解机器人训练数据稀缺,Reka AI 构建逆动力学模型从普通互联网视
德国 AI 公司 Aleph Alpha 发布开源权重模型 Kolibri,这是一个 78 亿参数的德英双语模型,采用混合专家架构,每个 token 约激活 30 亿参数。公司称其在质量与运营成本上处于帕累托前沿,训练数据中德语占 21.3%,并使用中国模型生成合成数据。模型面向公共管理、航空和工业领域,依据欧盟法律并考虑 EU AI Act 开发,支持最高
Hugging Face 发布 Olmo-core 3,这是其大模型训练框架的重大升级,核心是重新设计的开放 MoE 训练系统,可扩展到万亿参数规模。它从 FSDP 切换到基于 DDP 的系统,结合专家并行、流水线并行、分布式优化器以及 MXFP8 低精度格式等优化。在 8 张 NVIDIA B300 GPU 上,470 亿参数 MoE 吞吐量达每 GPU
研究者构建了 FoldingCorpus 蛋白质问答数据集与 Fold2Reason 后训练方法,通过离散结构答案和连续 3D 几何两种信号进行训练。在 FoldBench 上,Fold2Reason 的结构预测得分达到 Qwen3.5-9B 的 2.7 至 3.5 倍,并在空间、图、科学和通用推理等全部 10 个基准上均有提升,宏平均准确率从 45.09%
该论文提出 SymCE,一个包含 4,707 个假数学猜想及逐定理 Python 验证器的确定性反例生成环境,验证器同时充当强化学习奖励函数。作者发现仅用反例数据做 SFT 会导致「模仿陷阱」,使模型识别真定理的能力从 0.27 崩溃至 0.00,而基于验证器的 RLVR 可修复该问题并提升至 0.66。训练后的 Qwen3-4B 在域内反例任务上超越所有评
研究者提出 DeskForge,一个可控的 Linux 桌面环境,通过组合真实应用并系统变化应用状态、内容、窗口布局、外观和分辨率,融合截图、无障碍树和窗口几何信息生成密集元素标注。基于此构建了包含 120 万条桌面观测、1.597 亿元素实例的 DeskForge-1M 数据集,并在 20 万条 grounding 样本上微调四个视觉语言模型。结果显示所有
AutoTrust AI 发布开源权重模型 autotrust/JEV-27B(Apache-2.0),在六个公开决策基准上平均得分 84.07,比闭源托管模型 TypeSafe Jev 1.13 高 0.22 个百分点。该模型采用「专家块」方案,将 Qwen3.8-27B 主干冻结,仅训练 1.089 亿参数的 System 1 决策块,同时保留原模型的生
马斯克10月3日在X上确认正与台积电讨论Terafab芯片制造合作,此前英特尔是唯一被正式点名的合作伙伴,计划提供14A(约1.4nm级)工艺。Terafab是Tesla、SpaceX与xAI共同推进的超大规模垂直整合芯片项目,一期投资168亿美元,长期潜在总投资可达1190亿美元,目标年产约1TW AI算力。媒体披露台积电可能以直接运营、小股东加运营或纯技
DeepMind 相关研究人员 Benjamin Bratton、Blaise Agüera y Arcas 和 James Manyika 发表文章,提出「人工共生智能」(Artificial Symbiotic Intelligence)概念,认为 AGI 将从人与 AI 智能体协作的社会系统中涌现,而非由单一超级智能驱动。文章引用两项预印本研究,指出
DeepSeek 弹性计算团队(DSec)大规模扩招,尤其需要资深工程师,并发布技术报告介绍其面向大规模 Agent 训练的沙盒基础设施。DSec 单个分片约 160 台服务器、3 万 CPU 核心、250TB 内存,每天服务约 300 万个沙盒,高峰期同时在线超 38 万个。该基础设施支撑 DeepSeek-V4 全部训练、评测和数据预处理流程,并通过镜像
Cloudflare 发布了两款面向 AI 智能体的决策模型 Clef 和 Clef-flash,直接对标 TypeSafe AI 的 Jev。这两款模型不生成文本,而是对预定义答案选项分配概率,供下游系统自动执行路由、升级或转人工等操作。Cloudflare 称 Clef-flash 中位响应时间约 39 毫秒、Clef 约 209 毫秒,均快于 Jev
Hugging Face 上发布了 Security-SLM-Gemma-4-E2B-it-GGUF,这是一个基于 Gemma 4 E2B Instruct 用 LoRA rank 16 微调、以 GGUF Q4 K M 格式分发的网络安全助手模型,可在本地通过 Ollama 等离线运行,面向红队、蓝队和 SOC 场景。模型使用 505 样本的 agenti
AWS 在 Amazon SageMaker AI 上推出多轮强化学习(MTRL)能力,用于微调搜索智能体。文章以 Qwen3.6-27B 为例,结合 BM25 与向量检索工具,在 FRAMES、BRIGHT 和 Enterprise RAG 数据集上训练,使小模型获得接近前沿模型的多轮检索可靠性,同时保持更低延迟与成本。
研究团队提出 OneStreamer,一个 4B 参数的流式视频交互模型,通过共享的主动生成过程统一感知、记忆与主动响应。其 Proactive Hierarchical Caption Memory(PHCM)生成带时间戳的局部细节描述与事件摘要,使模型无需回看历史视觉特征即可保留可复用的事实记忆;Proactive State Transition Le
Google Research 宣布推出新一代联邦学习系统,利用可信执行环境(TEE)为数据匿名化提供可外部验证和审计的隐私保证,并将计算转移到服务器端以提升训练速度、准确率和设备覆盖。Gboard 已采用该系统部署英语和日语下一词预测模型,训练时间从过去的 1-2 个月大幅缩短。系统通过 Rekor 公开透明日志发布访问策略,相关 KMS 和数据处理二进制