仅用语义ID作为物品表示的推理重排序
该论文提出 ReRankID 测试平台,研究仅用语义 ID(SID)作为物品表示进行推理重排序。实验发现现有模型在仅见 SID 时倾向于照抄输入顺序而非真正重排序,可读元数据也无法修复该失败。作者比较了监督微调、拒绝采样自训练、在线策略蒸馏和基于验证器的强化学习等后训练方法,发现它们能激发缺失的重排序行为;其中用分级排序奖励训练的 8B 模型在仅 SID 条
技术方向 · 用外部知识约束模型输出的检索增强生成,含向量嵌入与重排序 · 共 478 条
只展示置信度达到公开门槛且每篇排名前三的主题标签,降低泛化误贴。
该论文提出 ReRankID 测试平台,研究仅用语义 ID(SID)作为物品表示进行推理重排序。实验发现现有模型在仅见 SID 时倾向于照抄输入顺序而非真正重排序,可读元数据也无法修复该失败。作者比较了监督微调、拒绝采样自训练、在线策略蒸馏和基于验证器的强化学习等后训练方法,发现它们能激发缺失的重排序行为;其中用分级排序奖励训练的 8B 模型在仅 SID 条
论文提出 AuditKIT,一个面向大语言模型与智能体系统的开源评测库,统一了基准评测、模型评判、性能测量、工具使用评估和 RAG 评测接口。它要求每个指标声明 MAXIMIZE 或 MINIMIZE 方向并在比较中强制执行,用 SHA-256 指纹作为缓存与比较键,并将无法获取的证据标记为未评分而非计为失败。作者通过七个案例研究说明答案抽取、服务行为、检索
该论文提出用一张冻结的16MB、512位二值码词表替代小语言模型中可训练的嵌入表,该词表由预训练嵌入经主成分投影和符号二值化一次性生成。在Gemma 3 270M同构模型上以相同数据对比训练,冻结词表模型在LAMBADA、HellaSwag、PIQA上表现持平或更好,仅ARC-Easy落后;配合三值BitNet主体后整模型仅46MB,笔记本CPU上生成速度达
该论文提出 NoveltyScope,一个多智能体科研辅助原型,通过将论文与本地语料库中的先前工作进行检索比对,生成结构化报告和五级新颖性评分。系统提取核心任务与最多两项作者声称的贡献,使用 BM25 与稠密检索及倒数排名融合,并让检察官、辩护人、法官和批评者四个角色基于证据进行评分,法官最多可修订一次。在 50 个 RINoBench 样本上,多智能体评分
InfoQ 举办线上研讨会,ThoughtWorks 的 Zichuan Xiong、Prem Chandrasekaran,隐私专家 Katharine Jarmul 与金融 AI 从业者 Lan Chu 等资深工程实践者讨论了智能体系统在生产环境中的真实运维挑战。与会者指出 LLM 流水线存在语义漂移、嵌入漂移等“静默失败”,RAG 可能泄露敏感文档,G
RAGFlow 发布 v1.0.0-rc2,这是 v1.0.0 的第二个候选版本,修复了 rc1 中的若干问题并引入新功能。主要亮点包括:聊天引入 Agentic 模式取代原有的 Low/Medium/High/Ultra 思考等级,兼容 rc1 数据可直接升级,新增 Team/Me 共享、DemonRoute 与 Opper 模型供应商、Firecrawl
该论文提出 AURA 框架,将面向检索的推理建模为效用引导的计算分配问题,直接监督中间推理状态对相关文档与困难干扰项的区分能力,并训练轻量级效用估计器在推理时自适应决定推理深度。在 BRIGHT 基准上,AURA-4B 以平均 2.8 步推理、每查询 96 个生成 token 达到 34.7 的 nDCG@10,自适应停止将延迟从 4.6 秒降至 0.76
研究者提出 Idea2Prior,一个基于 PaperArena 的可审计文献检索与排序系统,结合多源发现、身份验证、摘要分面评估、语义引用扩展和联合专家排序。在覆盖 EASY、MEDIUM、HARD 各十个查询的历史对比中,其 Hit@5 为 53.3%,高于 ChatGPT 网页 Deep Research 的 43.3% 和 Gemini 网页 Dee
该论文提出 MeddeX,一个面向医疗报告分析的系统,将 QLoRA 微调的 LLaMA-3(8B)模型与检索增强生成(RAG)及 Gemini Vision 多模态层结合,用于生成准确、简洁且有证据支撑的医疗文档摘要。系统支持文本型 PDF、扫描图像 PDF 和放射影像,并引入垃圾文本检测、报告范围检索、纵向报告对比和惰性回填管线。与基础 LLaMA3-M
论文提出 SSR(Structural Signal Retriever),一种确定性、免训练的检索方法,用于 LLM 编排的多智能体系统中 Agent Card 的发现。SSR 从 Agent Card 的能力字段提取结构化词汇信号,用 IDF 加权,并通过倒排信号索引(ISI)进行选择性候选评分。在 1000 个智能体规模下,SSR 相比全目录编排减少
该研究比较了在固定 token 预算下,代码智能体处理仓库级 issue 时三种上下文压缩策略的效果:检索器、提示压缩器和整文件选择。作者提出简单选择器 CQ2-CARE,通过两次独立采样让模型选出必须修改的文件并整文件原样展示,再补充 grep 找到的相关代码片段。在 300 个 SWE-rebench issue 上,使用 GPT-5.6 和 Claud
该论文针对深度搜索智能体的在线策略蒸馏(OPD)提出改进方法 IG-OPD。作者指出标准 OPD 存在“证据盲监督”(EBS)问题:监督仅基于检索前上下文,导致预算先验按 token 量分配监督、方向先验偏向教师偏好,而忽略检索到的证据实际效用。IG-OPD 利用检索后信息增益校准这两个先验,在六个多模态搜索基准上使 2B 和 4B 学生模型平均准确率分别提
研究者发布了一个约16万篇巴西葡萄牙语金融新闻的大规模数据集,以缓解该领域数据稀缺问题。他们构建了六个类别(钢铁、石油、银行、金融科技、一般市场影响、无关),并分别用人工和LLM零样本标注子集。实验比较了余弦相似度、KNN和FAISS三种基于多语言语义嵌入的分类方法,发现任务对标签质量和类别分布高度敏感:人工标注子集上KNN最佳(准确率47.3%,F1 31
Hugging Face 博客发布两篇系列文章,探讨大语言模型记忆机制中「访问」与「修正」的区别。文章指出,长上下文和检索只能让模型保留并访问过去信息,但当新证据与旧信息冲突时,系统未必能正确更新记忆,这一现象被称为 context rot。作者以线性注意力为例,说明其固定大小的循环状态使记忆更新过程可被直接观察,并指出简单累加式记忆在信息被替换时会把新旧关
以色列巴伊兰大学(BIU)于今年2月在Moodle学习平台上试点了一款AI智能体,帮助学生用自然语言搜索和总结课程材料。该智能体由毕马威和OpenApp基于微软Copilot Studio开发,运行在Azure AI Services上,仅以教师上传的课程材料为依据。试点覆盖71门课程、约2400名学生,支持希伯来语、阿拉伯语和英语,并计划在2026/27学
llama.cpp 发布 b11643 版本,修复了仅含 embedding 的图在关闭 embeddings 时因 build pooling() 提前返回、t embd 不再展开而导致图为空、输入未被分配的问题,通过在该情况下展开 t embd 解决。该版本同时提供 macOS、iOS、Linux、Android、Windows 等多平台多后端(CUDA
研究者提出 TAGHN,一种面向自动主题标引的异构图重排序器,在检索候选描述符的子图上引入叙词表邻域(上位词、下位词、相关词)进行文档条件化消息传递。在包含 6,198 个描述符的经济学叙词表 STW 上,TAGHN 达到 0.380 宏 F1,优于微调交叉编码器的 0.346 和固定词表 XMLC 分类器的 0.278;微观 F1 上优于重排序模型并与最佳
该研究重新审视了生成式检索(GR)与稠密检索(DR)在电商候选生成中的表现差异。作者在 Amazon Toys 2014 和 2023 数据集上发现,GR 在双方共同覆盖用户的最佳相关商品价值上领先,而 DR 在精确目标召回和整列表相关价值上领先;分析表明流行度是 GR 价值领先的最大来源(2014 年占 49.8%,2023 年占 65.4%)。作者提出一
研究者提出 RCER,一种迭代式检索增强生成(RAG)方法,通过从累积的源段落中重建跨证据关系来改进多跳问答。该方法包含轮间关系证据获取、推理上下文重建和跨证据组合推理三个环节,用于动态分解问题并指导检索。在三个多跳 QA 基准上,RCER 平均比最佳基线提升 2.83 EM 和 3.06 F1,并在叙事与隐式推理任务上表现更优。
llama.cpp 发布 b11619 版本,主要变更是从嵌入图中移除 t embd 扩展操作(#30461)。由于这些图仅用于生成嵌入,且 build pooling() 已为每种池化类型扩展输出,模型图末尾的扩展属于冗余。该版本同时提供 macOS、Linux、Windows、Android 等多平台预编译包。