[控场AI]
· 4 分钟阅读· 2,302 字

一石二鸟:统一检索与利用的技能增强生成框架

一石二鸟:统一检索与利用的技能增强生成框架

Skill-Uni用统一强化学习框架联合优化技能检索与利用,显著提升LLM任务表现。

Skill-Uni是一个统一强化学习框架,旨在解决技能增强生成中检索与利用割裂的问题。传统方法采用分离式流水线,检索模型与生成模型各自独立训练,目标不一致导致性能受限。Skill-Uni采用生成式技能检索范式,让单一模型同时学习检索相关技能和利用技能求解任务,实现端到端联合优化。训练上采用两阶段策略:先进行热身指令微调,再用GRPO强化学习算法优化联合表现。在五个技能相关基准上,Skill-Uni相比Qwen3-4B和LLaMA3.1-8B分别平均提升66.59%和34.82%,并兼容多种技能检索引擎,展现出良好的灵活性与通用性。

大型语言模型在处理复杂任务时,常需要借助外部知识来弥补自身能力的不足。技能(Skills)作为一种可复用的外部知识,已被证明能显著提升模型的问题解决能力。然而,现有的技能增强生成方法通常将技能检索与技能利用割裂开来,分别使用独立的模型进行处理,导致两个过程无法协同优化。针对这一痛点,研究者提出了Skill-Uni——一个统一强化学习框架,旨在联合优化技能检索与利用,实现“一石二鸟”的效果。

Skill-Uni框架示意图

技能增强生成的现状与挑战

当前,技能增强生成的主流做法是采用检索-利用的流水线:先由检索模型从技能库中找出相关技能,再由生成模型基于这些技能解决问题。这种分离式设计虽然直观,但存在明显缺陷。检索模型和利用模型各自独立训练,检索的目标与最终任务目标并不一致——检索模型追求的是召回相关性,而生成模型需要的是对任务有用的技能。这种目标错位导致整体性能受限,且两个模块的优化无法相互促进。

Skill-Uni的提出正是为了打破这种割裂。它采用生成式技能检索范式,让单一模型同时学习如何检索相关技能以及如何利用技能求解任务。这样一来,检索和利用共享同一套参数,能够端到端地联合优化,从根本上解决了目标不一致的问题。

Skill-Uni的核心设计:统一框架与两阶段训练

Skill-Uni的核心创新在于将技能检索和利用统一到一个生成式框架中。模型不再需要独立的检索器,而是直接生成技能标识或描述,并在此基础上继续生成任务答案。这种设计让检索过程自然地融入生成流程,检索的质量直接由最终任务表现来驱动。

为了有效训练这一统一框架,研究者设计了两阶段训练策略。第一阶段是热身指令微调(warm-up instruction tuning),让模型初步熟悉技能检索和利用的基本模式;第二阶段采用GRPO(Group Relative Policy Optimization)强化学习算法,进一步优化模型在检索和利用上的联合表现。这种渐进式训练让模型逐步提升技能检索与利用能力,避免了直接强化学习可能带来的不稳定。

GRPO(Group Relative Policy Optimization)是DeepSeek广告团队提出的一种强化学习算法,专为大型语言模型的训练设计。与传统PPO(Proximal Policy Optimization)需要单独训练价值网络(critic)不同,GRPO通过组内相对比较来估计优势函数:对同一问题采样多个回答,以组内平均奖励为基线计算每个回答的相对优势,从而省去了价值网络的开销。这种设计显著降低了强化学习的计算成本和内存占用,同时保持了训练的稳定性。GRPO已被成功应用于DeepSeek-R1等推理模型的训练中,在数学推理、代码生成等任务上展现出良好效果。Skill-Uni采用GRPO进行第二阶段训练,正是看中其在LLM场景下高效且稳定的特性。

生成式检索(Generative Retrieval)是一种与传统稠密向量检索截然不同的检索范式。传统检索依赖双塔编码器将查询和文档分别映射为向量,再通过近似最近邻搜索找出相关文档;而生成式检索则将文档标识符(如DocID)或描述作为目标序列,由模型直接自回归地生成检索结果。这种范式的优势在于:检索过程与生成过程共享同一模型和参数,可以端到端优化;检索结果直接服务于下游任务,目标一致性更强。生成式检索最早在文档检索领域被提出(如DSI模型),近年来逐渐扩展到多模态检索和知识增强生成等场景。Skill-Uni采用这一范式,使技能检索自然融入生成流程,检索质量由最终任务表现驱动。

实验效果:显著性能提升与广泛兼容性

研究者在五个与技能相关的基准测试上进行了 extensive 实验。结果显示,Skill-Uni相比基础模型取得了显著的性能提升:相较于Qwen3-4B平均提升66.59%,相较于LLaMA3.1-8B平均提升34.82%。这些数字表明,统一优化检索与利用确实能带来实质性的收益。

除了性能提升,Skill-Uni还展现出良好的灵活性和通用性。它能够兼容多种技能检索引擎,这意味着用户可以根据实际需求选择不同的检索后端,而不必受限于特定实现。这种兼容性降低了部署门槛,也增强了框架的实用性。此外,研究者还进行了深入分析,进一步揭示了Skill-Uni有效性的来源,为后续研究提供了有价值的参考。

对技能增强生成领域的启示

Skill-Uni的成功验证了一个重要思路:技能检索与技能利用不应是分离的两个步骤,而应被视为一个整体来优化。这种统一视角不仅提升了性能,还简化了系统架构——不再需要维护多个模型,训练和推理流程都更加简洁。

从更宏观的角度看,Skill-Uni代表了技能增强生成领域的一种趋势:从模块化流水线走向端到端联合优化。随着LLM应用场景日益复杂,如何高效地利用外部知识将成为关键竞争力。Skill-Uni提供的统一强化学习框架,为后续研究开辟了新的方向,也提醒我们:有时“一石二鸟”并非不可能,关键在于找到正确的整合方式。

对于开发者而言,Skill-Uni的兼容性意味着它可以与现有技能库和检索引擎结合,快速集成到实际应用中。虽然论文未披露具体的部署细节,但其设计思路已经足够清晰:用单一模型统一检索与利用,用两阶段训练保证效果,用兼容性保证落地。这三点构成了Skill-Uni的核心价值,也值得技能增强生成领域的从业者深入关注。

#Skill-Uni#技能增强生成#统一检索与利用#强化学习#GRPO#LLM技能检索#生成式检索
分享:

相关推荐