RAPTOR
RAPTOR是斯坦福团队提出的层级检索框架,通过递归聚类文本块并调用LLM生成摘要,构建自底向上的摘要树,以提升长文档问答效果
时间轴 (近 90 天)
RAPTOR 构建一棵树:聚类相关文本块,为每个簇生成摘要,再聚类摘要并摘要,一路向上;查询时跨层级检索,既能抓取细粒度细节,也能获取高层综合。
论文报告称,RAPTOR 在 QuALITY 基准(长文档问答)上搭配 GPT-4 时,绝对准确率提升约 20 点,当时达到最先进水平。
RAPTOR是斯坦福团队于2024年提出的层级检索框架,全称为Recursive Abstractive Processing for Tree-Organized Retrieval
RAPTOR通过将文档切分为文本块、向量化、使用高斯混合模型进行软聚类、调用语言模型生成抽象摘要并递归构建摘要树
RAPTOR在多个长文档问答基准上超越了扁平RAG,但索引成本随文档规模呈超线性增长,且摘要质量高度依赖所用语言模型的能力
生成式RAPTOR变体即使配上高质量聚类摘要,在每一个多块预算档位上仍然输给了零索引成本的NavTree
全部知识事实 (6)
RAPTOR 构建一棵树:聚类相关文本块,为每个簇生成摘要,再聚类摘要并摘要,一路向上;查询时跨层级检索,既能抓取细粒度细节,也能获取高层综合。
50%待验证论文报告称,RAPTOR 在 QuALITY 基准(长文档问答)上搭配 GPT-4 时,绝对准确率提升约 20 点,当时达到最先进水平。
50%待验证RAPTOR是斯坦福团队于2024年提出的层级检索框架,全称为Recursive Abstractive Processing for Tree-Organized Retrieval
50%待验证RAPTOR通过将文档切分为文本块、向量化、使用高斯混合模型进行软聚类、调用语言模型生成抽象摘要并递归构建摘要树
50%待验证RAPTOR在多个长文档问答基准上超越了扁平RAG,但索引成本随文档规模呈超线性增长,且摘要质量高度依赖所用语言模型的能力
50%待验证生成式RAPTOR变体即使配上高质量聚类摘要,在每一个多块预算档位上仍然输给了零索引成本的NavTree
50%