Contextual Retrieval
Anthropic于2024年提出的RAG优化方案,通过利用大语言模型为每个文档分块生成独立的上下文摘要并拼接编码,改善分块脱离上下文导致检索质量下降的问题
核心事实
时间轴 (近 90 天)
Anthropic在Contextual Retrieval的官方文章中举例说明embedding模型可能找到关于错误码的通用内容,却错过精确的'TS-999'匹配。
Contextual Retrieval指在索引每个chunk之前,先用大模型为其生成一段说明该chunk在整篇文档中位置的上下文前缀,再连同chunk一起做embedding和BM25索引。
Anthropic实验显示:embedding结合BM25并给chunk添加上下文,top-20检索失败率降低了49%(从5.7%降到2.9%)。
Anthropic在其技术博客中提出的Contextual Retrieval方案能将检索失败率降低约49%
Anthropic 于2024年提出了 Contextual Retrieval 方案,即利用大语言模型对每个分块生成上下文摘要后再拼接编码
21.2%是相对降低而非绝对降低,即新版本在早期版本失败率基数上砍掉约五分之一的失败情况
Contextual Retrieval由Anthropic提出,在每个chunk前添加由LLM生成的上下文摘要,使chunk脱离原文后仍能保留必要的背景信息
全部知识事实 (7)
Contextual Retrieval由Anthropic提出,在每个chunk前添加由LLM生成的上下文摘要,使chunk脱离原文后仍能保留必要的背景信息
65%待验证Anthropic在Contextual Retrieval的官方文章中举例说明embedding模型可能找到关于错误码的通用内容,却错过精确的'TS-999'匹配。
50%待验证Contextual Retrieval指在索引每个chunk之前,先用大模型为其生成一段说明该chunk在整篇文档中位置的上下文前缀,再连同chunk一起做embedding和BM25索引。
50%待验证Anthropic实验显示:embedding结合BM25并给chunk添加上下文,top-20检索失败率降低了49%(从5.7%降到2.9%)。
50%待验证Anthropic在其技术博客中提出的Contextual Retrieval方案能将检索失败率降低约49%
50%待验证Anthropic 于2024年提出了 Contextual Retrieval 方案,即利用大语言模型对每个分块生成上下文摘要后再拼接编码
50%待验证21.2%是相对降低而非绝对降低,即新版本在早期版本失败率基数上砍掉约五分之一的失败情况
50%