#主机卸载

JAX主机卸载技术：突破LLM训练显存瓶颈的实战指南

显存不足是LLM训练的核心瓶颈。本文深入解析基于JAX的主机卸载（Host Offloading）技术原理，涵盖优化器状态、激活值卸载策略、PCIe带宽权衡，以及与激活重计算的互补关系，帮助你在不增加GPU的前提下训练更大规模的模型。