#模型微调
共 40 篇相关文章
Unsloth v0.1.913-beta 发布：自定义背景、性能翻倍与本地大模型体验升级
Unsloth v0.1.913-beta 发布，新增自定义背景、14 种语言与全新界面布局，应用更新时间减半，Qwen-Image 在 16GB 显存下渲染提速 2 倍，并引入 DeepSeek-V4.1-Flash-1017 与 Dynamic v3.1 GGUFs 预览。
多模态大模型部署与微调实战：岗位技能与学习路径
B站公开课聚焦多模态大模型部署与微调实战，讲师陈伯解析AI大模型工程师需掌握的应用开发、微调训练与底层原理三项技能，指出部署门槛较低、微调才是学习重心。
高质量LoRA训练全流程指南
系统梳理高质量LoRA训练的端到端流程，涵盖数据集构建与清洗、基座模型与超参数选择、正则化图像争议、checkpoint评估与迭代策略，帮助开发者建立可复现的LoRA训练闭环。
Nemotron后训练实战：5步搞定法语本地化模型
NVIDIA Nemotron团队发布5分钟教程，详细演示如何通过定义行为、生成合成数据、LoRA微调等五个步骤，对基础模型进行法语本地化后训练，方法可迁移至任意语言。
Nemotron微调：让本地AI懂规则而非只懂语言
NVIDIA 开发者博客提出，AI 本地化不能只解决语言问题，还需通过微调 Nemotron 注入本地规则知识。本文分析这一思路对开发者与企业落地的启示。
Abliterated DeepSeek 推理服务商增至五家
Abliterated DeepSeek 推理服务商已增至五家，Hacker News 社区就此展开讨论。本文解析 abliteration 的技术含义、多服务商出现的成因，以及对开发者在选择、版本一致性和合规风险方面的实际影响。
4B模型微调实战：Three.js 3D场景生成能力持续提升
开发者分享Qwen3.5-4B微调进展：以Three.js场景生成为测试任务，最新checkpoint在场景质量和一次通过率上明显提升，已更新量化版本并修复层问题，训练预计10月28日完成，后续将开源全套权重、数据集与技术报告。
Together推出后训练服务：用SFT和RL定制专属开源模型
Together AI上线Post-Training服务，支持SFT和RL将开源模型定制为自有模型。客户定义数据、奖励、环境和训练循环，平台提供底层训练基础设施。
Together后训练平台：训练循环自主掌控，基础设施全托管
Together AI 推出 post-training 平台，训练循环由用户代码定义数据、奖励、损失与优化器，GPU 与基础设施全托管，并提供 Recipe 模板快速起步。本文解析其控制权与托管分离的设计思路及行业定位。
Unsloth v0.1.910-beta 发布：Flint 编程代理、MO…
Unsloth v0.1.910-beta 发布：Flint 编程代理、MOSS-Image 与 NVIDIA Bolt E4B 本地可跑
Unsloth v0.1.910-beta 发布，带来 Recursive Flint 编程代理、OpenMOSS 的 MOSS-Image 文生图模型与 NVIDIA Nemotron 3.5 Bolt E4B，并新增 MLX MoE SSD 专家卸载、REAP 专家剪枝与 OpenAI 兼容微调 API。
用好已有日志：微调小模型反超前沿大模型
Twitter开发者分享：利用已有运行日志筛选成功案例，微调9B小模型，在特定任务上击败前沿大模型。本文解析这一思路的原理、落地步骤与工具smithtune，探讨AI应用开发中的数据飞轮策略。
Databricks × NVIDIA：用企业数据定制开源模型的新捷径
Databricks AI Runtime 与 NVIDIA 合作，让企业可用自有数据定制开源模型。本文解析该整合如何简化 GPU 训练管线、降低微调门槛，以及企业落地时仍需关注的数据与评估问题。
Qwen3-4B微调去除AI写作痕迹，Show HN项目引关注
Hacker News上的Show HN项目尝试微调Qwen3-4B模型，去除AI写作中常见的套话和机械表达，让生成文本更自然。本文分析其思路、小模型微调的优势与挑战。
行为耦合：微调一个行为为何会触发另一个？
论文提出行为耦合概念：微调一种行为会带出另一种。研究发现耦合可通过文档训练形成，并能在不同文档间复合，导致意外行为难以溯源，呼吁评估超越模型当前行为。
Qwen3-8B微调实测：LLM路由需要更多数据吗？
实测Qwen3-8B微调做LLM路由：用Tinker训练复杂度评分器，50条样本准确率86%却高于2500条的76%。分析合成数据标签一致性、小评估集陷阱与路由工程化实践。
本地恋爱聊天Copilot：322M判断+Gemma起草，数据不出电脑
Laya-Heart 是一个跑在本地电脑上的情侣聊天 Copilot：322M 的判断模型 Laya 读潜台词，Gemma 4 E2B 起草回复，默认不向云端发送任何内容。本文拆解它的本地推理优化、微调结果与安全设计。
当AI学会说"不确定"：一个过敏原检测器的反直觉设计
开发者用微调Qwen3.5-4B构建开源过敏原检测器Contains，核心是三态判定：含、不含、需要核实。微调模型输给基座模型，但学会说"不确定"；双层系统达86%召回且零误报。
合成数据投毒：企业微调中的模型崩溃威胁
企业微调中使用合成数据可能导致模型崩溃：递归训练使稀有尾部召回率从88%暴跌至29%，幻觉率飙升至52%。本文解析模型崩溃的数学原理、五轮递归微调实测数据，以及溯源水印、KL散度监控和尾部保留锚定等防护方案。
H100 跑 QLoRA 只比 4070 快 15%？真实瓶颈藏在数据管道
一位开发者用 H100 跑 QLoRA 只比 RTX 4070 快 15%，远低于预期的 4-5 倍。排查后发现瓶颈在数据管道：25GB 数据集反复从 S3 下载、基础模型未缓存、单线程预处理与过低 num_workers。修复后端到端时间从 9.5 小时降至 2 小时 40 分。
LoRA 智能体安全治理：从高效微调到行为依赖
LoRA 在 AI 智能体中既提升微调效率，也带来后门、对齐退化与组合攻击等安全风险。本文解析其机制、供应链隐患及身份、权限、组合、隔离、撤销五大治理面，探讨适配器治理的研究议程。