概念Reference Sliding Window Attention / R-SWA

R-SWA

参考滑动窗口注意力机制，约束相邻位置窗口进行注意力计算。

时间轴 (近 90 天)

10月30日

在百页文档量级上，Unlimited OCR 2 相对 R-SWA 取得了 5.6 倍的单步加速。

待验证50%

在百页文档量级上，Unlimited OCR 2 相对 R-SWA 取得了 5.6 倍的单步加速。