共 2 篇相关文章
研究者提出稀疏对抗微调SAFT,通过梯度分析识别鲁棒性关键参数,仅更新约5%参数即可接近或超越全参数对抗训练的鲁棒性,同时优于LoRA方法。
LARA(轻量加性残差适配)是一个针对冻结大模型的开源项目,通过低秩残差适配器实现可加载、移除、混合与路由的模块化行为,并提供 Mixture of Behaviors 演示及与 LoRA 的对比。