CrossQ：面向晚期交互检索的跨令牌条件量化方法
原标题：CrossQ: Task-Aligned Cross-Token Conditional Quantization for Late Interaction Retrieval
AI 摘要
CrossQ 是一种针对晚期交互检索模型（如 ColBERT）的跨令牌条件量化方法，通过在索引时计算轻量级文档上下文来指导码本选择，从而在压缩文档向量索引的同时保持排序质量。实验表明，在 2 B/token 下，CrossQ 在 BEIR 子集上将 MRR@10 提升了 0.010，在 4 B/token 下将 nDCG@10 提升了 0.009，并实现了 64 倍的原始存储压缩。该方法采用排序对齐的损失函数（如列表式蒸馏和成对排序损失）来保护候选分数分布和难负样本边界，在 8 B/token 下结合轻量微调可保留约 98% 的全精度 ColBERT 性能。
正文节选
[Page 1] CrossQ: Task-Aligned Cross-Token Conditional Quantization for Late Interaction Retrieval Rohit Kumar Salla 1 Manoj Saravanan 1 Ramya Manasa Amancherla 2 Abstract sim comparisons dominate query-time compute (Santhanam Late-interaction retrievers like ColBERT achieve et al., 2022a), motivating compression of document-side high quality but suffer from