#微调

共 8 篇相关文章

论文揭示大语言模型的传递性行为耦合：在良性能力上微调可能静默激活预训练语料中多跳埋藏的攻击向量。本文解析形成机制、生产影响与对比激活探测缓解方案。

数据审查全过，模型却表现出未在训练集中出现的行为。本文解释预训练中的行为耦合机制、三种典型失效模式，并给出行为探针、差分测试、哨兵集等替代评估方案。

研究提出Oracle引导微调方法，通过修正池、正则化池和难负样本池将N-best列表转化为监督信号，训练生成式ASR后编辑模型学习选择或重写策略，减少过度编辑与幻觉，并揭示公共数据集预训练重叠问题。

RAG 与微调到底该选哪个？本文用通俗语言对比两种方案的工作原理、适用场景、成本结构，并提供五问决策清单，帮企业聊天机器人选对技术路线。

一位开发者为企业做LoRA微调时，replay数据中数学代码样本的token量反超全部工单，导致支持模型在回答账号锁定问题时输出Python推理代码。复盘数据配比、长度检查与修复方案。

大模型出错别急着换模型或微调。本文基于诊断优先的思路，对比 prompting、RAG 与 fine-tuning 的适用边界，附决策流程、架构职责划分与评估维护清单。

LLM 应用出错时该用 RAG 还是微调？本文提出先按检索、上下文、生成三层诊断故障，建立评估基线，再选择最小必要的干预，并给出成本权衡与可落地的决策框架。

新发布的arXiv论文通过线性-softmax模型，从数学上解释了监督微调（SFT）为何比强化微调（RFT）更容易灾难性遗忘。核心在于SFT会产生离轴风格漂移，导致即使语义正确也会丢失知识，而RFT能保持零语义误差。