NVIDIA 发布 Nemotron 3.5 检索模型系列,提升 Agent 检索效率
NVIDIA 在 Hugging Face 发布 Nemotron 3.5 检索模型系列,包括 8B/1B 的 Embed 嵌入模型(含 NVFP4 量化版)、8B Rerank 重排模型和 631M 的 Parse 文档解析模型,均开放且可商用。这些模型支持文本与图像的多模态检索、多语言检索和跨模态重排,旨在提升企业级 Agent 工作流的检索质量。评测显
技术方向 · 用外部知识约束模型输出的检索增强生成,含向量嵌入与重排序 · 共 478 条
只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。
NVIDIA 在 Hugging Face 发布 Nemotron 3.5 检索模型系列,包括 8B/1B 的 Embed 嵌入模型(含 NVFP4 量化版)、8B Rerank 重排模型和 631M 的 Parse 文档解析模型,均开放且可商用。这些模型支持文本与图像的多模态检索、多语言检索和跨模态重排,旨在提升企业级 Agent 工作流的检索质量。评测显
MIT Technology Review AI 刊文指出,AI 推理的存储成本常被忽视:WD 测量发现,一段 8 秒、用户可见仅 3.97MB 的 720p AI 视频,后端会留下超过 500MB 的日志、缓存、渲染、备份与安全记录等数据,放大约 130 倍。WD 委托 IDC 对 763 名 IT 与业务决策者的调查显示,近 95% 受访者称过去 12
研究者开展了一项预注册的激励在线实验,让参与者在从大型现场活动平台抓取的数千个活动目录中搜索,对比传统属性筛选界面(Filter)、基于RAG的生成式AI聊天界面(Chat)以及两者结合的混合界面(Hybrid)。结果显示Chat表现最差,且该结论在gpt-4.1-mini、gpt-5.2、gpt-5.4多个模型下稳健,主要影响开放式探索型用户;Filter
该论文提出 ClariEdge 数据集,包含约 3900 个多轮对话、检索文档及显式难负例,用于识别 RAG 场景中需要澄清的模糊查询。作者用轻量 LoRA 微调小模型,在分类准确率(96.6%)和澄清生成质量上超过多个更大模型的提示基线,且同一模型可同时用于检索前和检索后两个阶段。研究还表明难负例对区分真正模糊与看似模糊的查询至关重要。
该论文在IBM合成反洗钱交易数据集上构建了包含1,026个问题、带检索级金标文档标注的确定性问答基准,用于评估面向金融交易数据的RAG。作者将NVIDIA 29M参数的Transaction Foundation Model(TFM)与五个通用及金融领域文本嵌入模型在规模和数据匹配条件下对比,发现TFM在Recall@5(0.81 vs 0.25–0.39)
该论文提出 TAGR,一个面向城市即时配送中需求预测、ETA 预测和下一站预测三类异构任务的统一检索框架。TAGR 利用冻结的 LLM 编码器构建地理语义共享先验,并结合任务特定适配器与检索库,以在共享区域知识的同时保留各任务特有的证据结构。实验在三个城市数据集上显示,TAGR 在多个任务上持续优于现有最优基线。
腾讯于10月20日升级元宝搜索,并通过腾讯云向个人开发者和企业提供Skill、MCP、API三种接入方式的搜索API服务,每月提供2000次免费额度。元宝搜索已构建千亿级索引,覆盖13个垂直行业和157个权威信源,日均调用量达数亿次,支撑WorkBuddy、ima等50多个腾讯内部业务。此次开放意味着腾讯将内部打磨的搜索基础设施转化为面向Agent开发者的通
NVIDIA 扩展了开源 Agent Toolkit,新增 Agent Knowledge Foundation(含 CUDA-X 库与 Auto-Ontology)、Nemotron Retriever 与 Kumo 系列开放模型、OpenShell 安全运行时及 NemoClaw 蓝图等组件,帮助企业在不迁移数据的前提下让智能体利用公司数据并受控运行。P
该论文提出 GRaSP,一种面向地理分布式 RAG 的延迟感知重排序层,在语义相关性基础上按网络延迟衰减并可选加入跨区出口成本惩罚,同时满足全局与分区域选取上限,无需重训练或重建索引。作者证明基础问题可被 O(NlogN) 贪心算法最优求解,仅在加入硬性出口预算等约束时变为 NP-hard。在 CloudLab 四区域 WAN 与 Natural Quest
研究团队提出 FLINT(Fixed-budget Late INTeraction)架构,用基于注意力的池化把查询和文档都压缩为固定数量的嵌入向量,从而解决 ColBERT 类多向量检索模型因逐 token 存储向量而导致的存储和延迟问题。在 BEIR 上,FLINT 效果与现有晚交互模型相当;在 BrowseComp+、CRUMB、TREC Tip-of
研究团队提出 UIBK-Embedding-v1,一个 179M 参数的英文编码器,在一次前向中同时生成稠密向量和 token 级向量,并用未修改的 MaxSim 统一打分,从而在标准 late-interaction 索引(PLAID)中同时获得两种检索能力。在 BEIR 上达到 59.79 nDCG@10,比同规模最强模型 LateOn 高 2.57 分
不列颠哥伦比亚大学(UBC)土木工程系的研究者提出了一种基于大语言模型与强化学习的自主施工方法:用增强的 soft actor-critic 算法为移动吊车规划动作,并结合机器人运动学与控制算法保证动作可执行;同时开发定制嵌入模型按用户兴趣提取施工环境信息,再用 ChatGPT 5 更新施工进度、向控制系统提供安全信息并生成进度报告。该方法通过多次全尺寸挡土
llama.cpp 发布 b11778 版本,主要变更是新增对 Nemotron-3(.5)-Embed 嵌入模型的支持(PR #30877)。该版本同时提供覆盖 macOS/iOS、Linux、Android、Windows 及 openEuler 的多平台预编译包,包含 CUDA、Vulkan、ROCm、SYCL、OpenVINO 等多种后端。此次更新使
Cohere 发布企业级检索模型 Rerank 5,分为 Pro 和 Fast 两个版本,并推出可定位文档内最相关文本片段的新能力 Context Focus。Cohere 称 Rerank 5 Pro 在 ViDoRe V3、nanoMTEB、BRIGHT、BEIR 等公开基准上领先所有被测竞品,在 46 个复合数据集中有 39 个排名第一;Fast 版主
Octave 在 Amazon Bedrock 上为其质量管理平台 Reliance 构建了安全的多租户 AI 基础架构,以解决受监管行业客户数据隔离与 AI 利用之间的矛盾。该基础架构采用 Cohere Embed v4 嵌入超过 20 亿份文档,并通过 AgentCore Gateway 和隔离微虚拟机执行代理,同时使用 Bedrock Guardrai
该论文提出一种无需训练的结构化检索弃答方法,利用证据图中已选证据与未选候选之间的加权边界割(boundary cut)作为置信信号,无需正确性标签或置信模型训练。在 MemoryAgentBench 多跳任务上,该方法将精确率-覆盖率曲线下面积从最佳分数基线的水平提升至更高值(95% CI),零割子集包含的查询全部正确。研究进一步表明该信号的有效性取决于图边
论文提出 DuoLM 框架,将紧凑推荐模型与高效服务运行时结合:编码器 LLM 离线学习可复用的物品向量表示,个性化排序器 LLM 结合用户历史与反馈在线打分,并通过教师蒸馏端到端训练。运行时采用虚拟 token ID、共享历史计算与 CUDA Graph 重放等优化,在单张 H100 上每秒约 26,400 个候选打分,吞吐约等于使用 vLLM 与自动前缀
该论文提出 EMMA,一种事件驱动的多模态记忆系统,用于长视频理解。它通过融合视觉语义漂移与语音章节转换的双流检测器自适应定位事件边界,构建原始视频、片段级记忆和事件级记忆的三级层次结构,并采用多智能体框架进行查询分解、分层搜索、证据验证和答案生成。在三个长视频基准上,EMMA 相比最强基线分别提升 4.3、3.2、2.8 分,同时减少检索轮次。
Google 发布 EmbeddingGemma 2,这是一个基于 Gemma 4、采用 Apache 2.0 许可的紧凑型开放权重多模态嵌入模型,可在手机和笔记本等消费级硬件上运行。其核心特性是将文本、代码、图像、视频和音频映射到统一的 768 维嵌入空间,使开发者无需为不同模态维护互不兼容的嵌入空间。模型支持按需加载编码器,参数量从 2.7 亿(文本和代
该研究评估了 TypeSafe AI 推出的 System One 模型 Jev 在巴西葡萄牙语信息检索中的表现,将其用作相关性判断生成器和重排序器。在四个巴西葡萄牙语 IR 集合上,Jev 生成的相关性判断与官方人工判断的完全一致率为 52.9%–64.9%,二次加权 Cohen's κ 为 0.52–0.82,且至少 94.5% 的标注完全一致或仅差一个