[控场AI]
模型

DecisionRank

一种基于决策模型的重排序方法,通过物品空间在线策略蒸馏将生成式LLM的排序知识迁移到低延迟的决策模型中,在检索任务上实现高效排序。

时间轴 (近 90 天)

11月2日

DecisionRank 通过物品空间在线策略蒸馏(On-Policy Distillation, OPD)将生成式 LLM 的排序知识迁移到决策模型,并在多个检索基准上取得了领先效果。

待验证50%
11月2日

物品空间 OPD 的核心设计是:将学生模型输出的文档分数排序成 ranked sequence,然后将该列表作为输入喂给生成式教师模型,教师基于该列表提供条件反馈来直接监督学生模型的分数。

待验证50%
11月2日

DecisionRank 在通用和推理密集型检索基准上达到了 state-of-the-art 性能,包括 TREC DL、BEIR 和 BRIGHT。

待验证50%
11月2日

1.7B 参数的 DecisionRank 在 TREC DL19–23 上超越了其 27B 的生成式教师。

待验证50%
11月2日

8B 规模的 DecisionRank 优于生成式 listwise 对应模型,同时在 TREC DL 上运行速度快 24.5 倍,在 BRIGHT 上快 16.7 倍。

待验证50%

全部知识事实 (5)

来源文章