双编码器
双编码器(Bi-Encoder)是一种将查询和文档分别编码为独立向量、通过向量点积计算相似度的检索架构,速度极快,支持离线预计算文档向量,适合从大规模语料中进行粗召回。
核心事实
时间轴 (近 90 天)
Rerank模型通常是交叉编码器,精度高于双编码器但计算开销大,适合对top-50等少量候选精排。
现代生成式搜索引擎的混合RAG管线通常先由双编码器召回20个候选,再由交叉编码器精排,图匹配提供确定性三元组。
交叉编码器将查询和文档拼接后一起送入 Transformer,能捕捉更深层的相关性信号,但无法预计算文档表示,每个查询-文档对都需要一次前向传播,因此只适合对少量候选做精排。
交叉编码器比双编码器更准确,因为它将[query, doc]拼接后送入Transformer,让注意力机制在词级直接比对,但无法预建索引只能用于精排。
RATED在语义匹配层采用冻结的双编码器,并通过对比学习进行微调
交叉编码器将查询和文档拼接为一个序列通过全注意力机制联合编码,精度高但计算复杂度为O(n)级别,只适合对初检结果Top-K(通常20-100条)精排
重排器通常使用交叉编码器实现,将查询和文档拼接后联合输入Transformer模型,排序精度显著高于初检阶段
全部知识事实 (9)
稠密双编码器由查询编码器和文档编码器两个独立神经网络组成,将查询和文档映射到同一向量空间
75%已验证交叉编码器比双编码器更准确,因为它将[query, doc]拼接后送入Transformer,让注意力机制在词级直接比对,但无法预建索引只能用于精排。
70%已验证重排器通常使用交叉编码器实现,将查询和文档拼接后联合输入Transformer模型,排序精度显著高于初检阶段
65%已验证交叉编码器(Cross-Encoder)将查询与每个候选文档拼接后联合输入同一模型,通过注意力机制捕捉词级交互,排序精度优于向量相似度,但延迟随候选集规模线性增长
65%待验证Rerank模型通常是交叉编码器,精度高于双编码器但计算开销大,适合对top-50等少量候选精排。
50%待验证现代生成式搜索引擎的混合RAG管线通常先由双编码器召回20个候选,再由交叉编码器精排,图匹配提供确定性三元组。
50%待验证交叉编码器将查询和文档拼接后一起送入 Transformer,能捕捉更深层的相关性信号,但无法预计算文档表示,每个查询-文档对都需要一次前向传播,因此只适合对少量候选做精排。
50%待验证RATED在语义匹配层采用冻结的双编码器,并通过对比学习进行微调
50%待验证交叉编码器将查询和文档拼接为一个序列通过全注意力机制联合编码,精度高但计算复杂度为O(n)级别,只适合对初检结果Top-K(通常20-100条)精排
50%