Reranking results

📚 学习笔记：检索准确性提升（重排序 Re-ranking）

一、 现有检索方法的局限性

• 混合检索（Hybrid Retrieval）：结合向量索引（Vector Index）和BM25索引。
• 问题：尽管复杂度增加，但仍存在“粗糙的边缘”（rough edges），无法保证最相关的文档能被准确地排在最前面，尤其是在查询非常具体时。

二、 核心概念：重排序（Re-ranking）

• 定义：在初始检索（Initial Search）之后，增加一个后处理步骤（Post-processing step）。
• 目的：提高检索的准确性（Accuracy），确保最相关的文档排在首位。
• 工作流程：
• 运行初始检索（Vector Index + BM25）→ 获得一组初步结果。
• 将用户查询和初步结果传递给重排序器（Re-ranker）。
• 重排序器（使用LLM，如Claude）的任务是：
• 分析用户查询。
• 从初步结果中挑选出最相关的文档。
• 按相关性递减的顺序重新排列这些文档。

三、 实现效率优化

• 效率问题：如果要求LLM返回完整的文本块（Text Chunk），会非常低效。
• 优化方案：
• 预先为每个文档/文本块分配唯一的文档ID（Document IDs）。
• 指示LLM返回的是按相关性排序的文档ID列表，而不是全文。
• 这能显著提高处理效率。

四、 性能权衡（Trade-offs）

• 优点（Pros）：显著提高检索管道的准确性。
• 缺点（Cons）：增加了搜索管道的延迟（Latency），因为必须等待LLM调用完成重排序任务。

Takeaways

• 重排序（Re-ranking）是初始检索后的后处理步骤，旨在提高检索的准确性，确保最相关的文档排在首位。
• 工作流程是：初始检索获得初步结果 → 将结果和查询传递给重排序器（Re-ranker）→ 重排序器按相关性重新排列文档。
• 为优化效率，应指示LLM返回按相关性排序的文档ID列表，而非处理完整的文本块。
• 重排序的性能权衡是：显著提高了检索的准确性，但增加了搜索管道的延迟。