概念Full Attention / 全注意力
Full Attention
Transformer 解码器的标准注意力模式，每个解码步对全部历史 token 或参考 token 计算注意力权重，信息无损但计算开销随序列长度增长。
时间轴 (近 90 天)
10月30日
在百页文档量级上，Unlimited OCR 2 相对 Full Attention 取得了 7.0 倍的单步加速。
待验证50%
9月10日
混合注意力架构中，底层使用Full Attention捕获全局语义，上层使用Sliding Window提升效率
待验证50%