DecisionRank
一种基于决策模型的重排序方法,通过物品空间在线策略蒸馏将生成式LLM的排序知识迁移到低延迟的决策模型中,在检索任务上实现高效排序。
时间轴 (近 90 天)
DecisionRank 通过物品空间在线策略蒸馏(On-Policy Distillation, OPD)将生成式 LLM 的排序知识迁移到决策模型,并在多个检索基准上取得了领先效果。
物品空间 OPD 的核心设计是:将学生模型输出的文档分数排序成 ranked sequence,然后将该列表作为输入喂给生成式教师模型,教师基于该列表提供条件反馈来直接监督学生模型的分数。
DecisionRank 在通用和推理密集型检索基准上达到了 state-of-the-art 性能,包括 TREC DL、BEIR 和 BRIGHT。
1.7B 参数的 DecisionRank 在 TREC DL19–23 上超越了其 27B 的生成式教师。
8B 规模的 DecisionRank 优于生成式 listwise 对应模型,同时在 TREC DL 上运行速度快 24.5 倍,在 BRIGHT 上快 16.7 倍。
全部知识事实 (5)
DecisionRank 通过物品空间在线策略蒸馏(On-Policy Distillation, OPD)将生成式 LLM 的排序知识迁移到决策模型,并在多个检索基准上取得了领先效果。
50%待验证物品空间 OPD 的核心设计是:将学生模型输出的文档分数排序成 ranked sequence,然后将该列表作为输入喂给生成式教师模型,教师基于该列表提供条件反馈来直接监督学生模型的分数。
50%待验证DecisionRank 在通用和推理密集型检索基准上达到了 state-of-the-art 性能,包括 TREC DL、BEIR 和 BRIGHT。
50%待验证1.7B 参数的 DecisionRank 在 TREC DL19–23 上超越了其 27B 的生成式教师。
50%待验证8B 规模的 DecisionRank 优于生成式 listwise 对应模型,同时在 TREC DL 上运行速度快 24.5 倍,在 BRIGHT 上快 16.7 倍。
50%