概念QAT / Quantization-Aware Training
量化感知训练
一种模型量化训练方法，模型在训练阶段就模拟量化操作，保留全精度权重副本同时练习舍入，使模型适应极端压缩
核心事实
时间轴 (近 90 天)
10月22日
SteerTTS edge 的声学模型有 9.25M 参数，采用 attention + 双向 Mamba-3 结构，并通过量化感知训练（QAT）压到 int4。
待验证50%
10月15日
MoE与2比特量化结合时，专家路由对数值精度敏感，低比特可能放大路由错误，是工程难点。
待验证50%
10月14日
事后量化在小 bit 数下通常会造成明显的性能退化，而 QAT 在训练过程中模拟量化误差以保持低精度输出质量。
已验证80%
8月25日
NVIDIA在其NeMo框架中已内建了QAT支持管线
待验证50%