模型剪枝

模型压缩技术之一，通过移除权重矩阵中接近零的参数或整个注意力头来缩减模型体积，分为非结构化剪枝和结构化剪枝两类，结构化剪枝更易在硬件上实现实际加速