[控场AI]
· 3 分钟阅读· 1,801 字

HARP:免训练双画像代理推荐框架,Hit@1最高提升24%

HARP:免训练双画像代理推荐框架,Hit@1最高提升24%

HARP将LLM推荐重构为四阶段代理通信,用三个免训练算子解决画像不对称,Hit@1提升6.9%-24.0%。

HARP 针对基于大语言模型的推荐系统中用户与物品画像不对称的问题,将推荐过程重构为 BUILD、TRANSMIT、UNDERSTAND、SYNC 四个代理通信阶段,并识别出物品侧缺失自描述、画像信号困于重排提示、用户画像冻结三个挑战。为此提出三个免训练算子:规则提取的对称物品画像、检索侧同质性门控、单遍反思更新,附加在冻结的 LLM 主干上。在 Yelp、Books、MovieTV、Goodreads 四个基准上,Hit@1 相比最强基线提升 6.9% 至 24.0%,且统计显著(Holm 校正后 p<1e-9)。消融显示检索侧门控贡献最大,反思过程存在权衡。代码已开源,便于复现与部署。

推荐系统的通信困境:用户与物品的不对称

在基于大语言模型(LLM)的推荐系统中,记忆模块常被视作用户级的代理,嵌入在记忆增强的主干网络中。但用户与物品之间存在天然的不对称:只有用户拥有结构化画像,物品没有可比的自描述;用户画像仅通过带宽受限的重排提示输入,而非检索阶段;而且画像在预热后就被冻结,缺乏原则性的更新规则。

据该研究论文的描述,这种不对称性构成了三个未解决的通信挑战:物品侧从不产生可比的自描述(单向的BUILD);画像级信号只进入带宽受限的重排提示而非检索阶段,导致“提示陷阱”(prompt-trapped UNDERSTAND);用户描述在预热后冻结,没有原则性的更新规则(缺失的SYNC)。

HARP论文来源截图

带宽受限的提示(bandwidth-limited prompt) 指大语言模型的上下文窗口容量有限,用户画像信息在作为提示输入时,只能以极少的 token 呈现,无法完整传递用户偏好的全部细节。因此,若将画像信号仅置于重排阶段的提示中,信息会被大幅压缩,且无法影响候选物品的检索过程,导致模型对用户的理解被“困”在提示层面。

HARP的四个通信阶段与三个算子

研究者将LLM推荐重新表述为代理通信过程,包含四个阶段:BUILD(构建自述)、TRANSMIT(沿协作图传输)、UNDERSTAND(理解对方)、SYNC(从下一次交互同步)。HARP(Homophily-aware Agentic Recommendation via dual Profiles)正是针对缺失阶段提出的免训练、三算子扩展,附加在冻结的LLM主干上。

三个核心算子分别对应上述挑战:

  • 规则提取的对称物品画像:无需额外LLM调用,零成本为物品生成自描述,解决单向BUILD问题。
  • 通道可分解的画像级同质性H(φ_u, φ_i):在检索时消费,而非塞入重排提示,突破带宽限制,解决提示陷阱。
  • 单遍反思更新:实现上下文内的画像演化,无需任何梯度步骤,补上SYNC环节。

这种设计巧妙地绕开了微调成本,同时让画像信号在检索阶段就发挥作用,避免与上下文令牌竞争。

同质性(Homophily) 在社会网络与推荐系统中,指相似用户倾向于与相似物品交互的现象。HARP 中的同质性函数 ( H(\phi_u, \phi_i) ) 用于度量用户画像 ( \phi_u ) 与物品画像 ( \phi_i ) 之间的匹配程度,从而在检索阶段对候选物品进行门控筛选,使画像信号直接参与召回,而不仅限于重排。

免训练(Training-free) 意味着不更新大语言模型的任何参数,也不进行微调,仅通过推理时的算子扩展(如规则提取、上下文内反思)来增强推荐能力,降低了部署成本与灾难性遗忘风险。

实验效果:Hit@1显著提升

在四个公开基准(Yelp、Books、MovieTV、Goodreads)上,HARP将Hit@1相比最强已发表基线提升了6.9%至24.0%,且每个数据集上经Holm校正的p值均小于1e-9,统计显著性极强。

消融实验和逐案例归因研究显示,三个算子贡献互补增益,其中检索侧的门控是主要来源。研究者还报告了反思过程引入的权衡。

有意思的是,HARP完全免训练,代码已开源(https://github.com/Jove-Zhen/HARP),这对实际部署非常友好。

Hit@1 是推荐系统常用的评估指标,表示在模型给出的排序列表中,排名第一的物品恰好是用户真实交互物品的样本比例。Holm 校正 是一种多重假设检验校正方法,用于控制家族错误率,当 p 值经 Holm 校正后仍小于 1e-9 时,说明各数据集上的提升并非偶然。

多源视角与局限

目前该工作主要通过论文和代码库传播,尚未见大规模独立复现。单一来源的分析指出,检索侧门控贡献最大,但反思过程存在权衡,可能在某些场景下引入额外开销或噪声。未来需要更多社区验证来评估其泛化能力。

总体而言,HARP将代理通信框架引入LLM推荐,以轻量级算子解决了画像不对称问题,为免训练推荐系统提供了新思路。

#HARP#LLM推荐#免训练#双画像#代理通信#同质性#推荐系统
分享:

相关推荐