#LLM微调

共 4 篇相关文章

新研究发现现有指令层级训练集遗漏了目标-目标冲突类型。在Qwen3.5-9B和Gemma4-12B-it上的实验表明，针对此类冲突微调能显著提升模型在未见任务上的指令遵循能力，且不损害正常任务表现。

微调LLM还是构建LLM应用？Reddit讨论指出数据准备应作为架构核心而非事后环节。本文分析数据schema先行、管道可重放、训练与检索共享底座三个实践抓手，以及数据工程在团队分工中的定位变化。

arXiv最新研究提出LLM辅助交通管理方案(TMP)编制框架，基于WisDOT WisTMP系统微调开源大模型并本地部署。文章解析其数据集构建、微调效果与模型规模权衡，以及LLM在成本估算、项目论证上的局限。

Jane Street AI团队详解如何为OCaml小众语言自建LLM工具链，涵盖工作区快照训练数据获取、代码评估强化学习、AID编辑器架构设计等核心工程实践，为非主流技术栈应用AI编程提供参考。