微调
微调（Fine-tuning）是机器学习中的一种迁移学习技术，指在已完成预训练的大规模模型基础上，使用特定任务或领域的标注数据对模型参数进行进一步训练和调整，使其适配目标场景。微调通常只需较少的数据和计算资源，即可使通用模型在文本分类、问答、图像识别等具体任务上显著提升性能，是当前自然语言处理和计算机视觉领域的主流模型适配方法。
核心事实
时间轴 (近 90 天)
微调主要改变模型在特定狭窄任务上的行为，它可以编码新信息，但通常不是频繁变化或引用敏感知识的最佳选择，检索或数据库通常更合适。
微调是用少量有标注数据让模型适配特定任务或对齐人类偏好。
文中「教一句话」的行为更接近微调或在线学习，即用单条样本更新模型参数或调整其输出倾向。
将自有业务数据与基础模型结合的方式主要有两类：微调（用企业私有数据继续训练模型参数，形成专用模型）和检索增强生成（RAG）（在推理时从企业知识库检索相关内容注入提示词，模型参数不变）。
微调适合任务模式稳定、数据量充足的场景，但成本较高且存在知识更新滞后。
部署环节仍涉及服务监控、并发调优和硬件选型等工程细节，但相对于微调而言，其标准化程度更高、试错成本更低。
多模态模型微调时不仅需要调整语言模型参数，往往还需冻结或微调模态编码器，并精心设计模态对齐策略。
微调涉及数据准备、参数调整和效果评估，链条更长、变量更多。
微调目前在实际中使用得不是很多。
微调可以把企业数据存到基础模型端，使模型习得垂直业务知识。
还有 40 条时间轴事件
全部知识事实 (20)
现代大语言模型通常经历预训练、监督微调（SFT）和基于人类反馈的强化学习（RLHF）三个训练阶段
90%已验证微调（Fine-tuning）是指在通用文本预训练完毕的基础模型之上，使用特定领域标注数据进行二次训练以调整模型参数
80%已验证当代前沿模型的训练方法包括RLHF（基于人类反馈的强化学习）及其后继者RLAIF和过程奖励模型（PRM）
80%已验证大语言模型的预训练阶段本质上属于自监督学习，是一种特殊的非监督学习，模型通过预测下一个词来从海量文本中自动学习语言规律
80%已验证微调是拿一个已有的大模型，用自己准备的专属数据集进行进一步训练，从而改变模型的权重数值
80%已验证预训练模型是指在大规模数据集上预先训练好的模型，用户可以直接微调或调用来完成特定任务
75%已验证对齐训练优化的是模型在已知场景下的统计行为，而非建立可形式化验证的安全边界，面对训练分布之外的罕见指令组合或角色扮演框架时可能失效
75%已验证PEFT技术的核心思想是不更新全部参数，而是引入少量可训练的适配器参数（如LoRA的低秩矩阵分解），降低显存和计算需求同时保留接近全量微调的效果
75%已验证对齐良好的模型会将元指令引导至合规的创意表达，而对齐不足的模型可能出现意外行为
75%已验证微调（Fine-tuning）通过反向传播算法在预训练权重基础上继续更新参数，使模型适应特定领域或任务风格
75%已验证微调需要数百到数千条高质量训练样本、数小时GPU计算时间和持续维护成本，知识更新时需重复整个流程
70%已验证模型在整合多段检索结果时仍可能发生拼接式幻觉，因此RAG不是消除幻觉的终极方案
65%已验证相比模型微调，RAG的优势在于知识更新成本极低，只需替换文档库即可，无需重新训练模型
65%已验证研究者发现只需微调模型的少量参数就能移除安全对齐（去对齐攻击），且某些越狱提示可在不同模型之间迁移
65%已验证微调将知识烧录进模型权重，知识更新需重新训练成本高；RAG将知识存储外部数据库，更新只需修改数据库无需改动模型
65%已验证AI编程助手通常结合检索增强生成（RAG）和上下文感知机制，能够理解整个项目的代码结构
65%已验证在AI编程中，过于具体的指令会'锁死'模型的解空间，而适度模糊的高层指令反而能激活模型更广泛的推理路径
65%待验证观察指出，基座能力强的模型（如官方原版）在文学创作上未必比专门微调的版本更出彩，而主打拟人聊天的模型反而在情感表达上更有优势。
70%待验证一篇发布于arXiv的研究（arXiv:2609.21096）提出通过分析注意力图中信息流动模式的拓扑结构来区分幻觉响应与可信响应
70%部分验证微调更新知识的成本高、耗时长，且知识写入参数后更新需重新训练。
65%