#从零训练大语言模型

750美元从零训练3个LLM：一位开发者的实战复盘

一位开发者花费750美元从零训练了3个大语言模型，涵盖SwiGLU、GQA、KV缓存等现代架构技术迭代，并分享了预训练、SFT微调、GRPO强化学习的实战教训与五条关键工程经验。