Unlimited OCR 2
百度推出的超长文档OCR模型,采用稀疏参考滑动窗口注意力机制,支持无界文档解析,在超长文档基准上达到SOTA。
时间轴 (近 90 天)
Unlimited OCR 2 将解码器中的所有注意力模块升级为 Sparse Reference Sliding Window Attention (SR-SWA)。
Unlimited OCR 2 的架构与基准成绩已披露,但真实场景中的版面复杂度和多语言表现仍有待独立评测验证。
Unlimited OCR 2 能够单次、不间断地解析数百页乃至更长文档,同时保持计算成本恒定。
Unlimited OCR 2 在 MPDocBench 基准上达到了当前最优水平。
在百页文档量级上,Unlimited OCR 2 相对 R-SWA 取得了 5.6 倍的单步加速。
在百页文档量级上,Unlimited OCR 2 相对 Full Attention 取得了 7.0 倍的单步加速。
Unlimited OCR 2 结合了 SR-SWA 与 Unlimited-Horizon Decoding Paradigm(无限视野解码范式),以实现超长文档的单次不间断解析。
Unlimited OCR 2 采用 SR-SWA 注意力机制,使每步解码开销几乎保持恒定
百度开源了 Unlimited OCR 2 模型
Unlimited OCR 2 采用 MIT 许可证
还有 13 条时间轴事件
全部知识事实 (20)
Unlimited OCR 2 将解码器中的所有注意力模块升级为 Sparse Reference Sliding Window Attention (SR-SWA)。
50%待验证Unlimited OCR 2 的架构与基准成绩已披露,但真实场景中的版面复杂度和多语言表现仍有待独立评测验证。
50%待验证Unlimited OCR 2 能够单次、不间断地解析数百页乃至更长文档,同时保持计算成本恒定。
50%待验证Unlimited OCR 2 在 MPDocBench 基准上达到了当前最优水平。
50%待验证在百页文档量级上,Unlimited OCR 2 相对 R-SWA 取得了 5.6 倍的单步加速。
50%待验证在百页文档量级上,Unlimited OCR 2 相对 Full Attention 取得了 7.0 倍的单步加速。
50%待验证Unlimited OCR 2 结合了 SR-SWA 与 Unlimited-Horizon Decoding Paradigm(无限视野解码范式),以实现超长文档的单次不间断解析。
50%待验证Unlimited OCR 2 采用 SR-SWA 注意力机制,使每步解码开销几乎保持恒定
50%待验证Unlimited OCR 2 采用 MIT 许可证
50%待验证Unlimited OCR 2 能在一次请求中解析上百页文档
50%待验证Unlimited OCR 2 在 MarathonDocBench 上取得 77.1 分
50%待验证SR-SWA 的具体实现细节、显存占用曲线或不同页数下的延迟数据未在原始素材中披露
50%待验证单一基准分数(如 77.1 分)不足以全面评估长文档 OCR 的真实质量,还需考虑版面复杂度、扫描质量等因素
50%待验证SR-SWA使每步解码延迟和内存占用几乎不随文档长度增长。
50%待验证Unlimited OCR 2的核心创新是稀疏参考滑动窗口注意力(SR-SWA),将文本-视觉注意力交互压缩到固定大小的参考集(例如512个token)。
50%待验证Unlimited OCR 2的SOTA声明基于百度官方自测结果,第三方独立评测尚未出现。
50%待验证百度称Unlimited OCR 2在数十页级别的基准MPDocBench和百页级别的基准MarathonDocBench上均取得SOTA表现。
50%待验证Unlimited OCR 2的SR-SWA在滑动窗口基础上引入参考集机制,使文本与视觉信息能够跨窗口交互,避免纯滑动窗口遗忘远处信息的问题。
50%待验证官方提到的512 token参考集是一个示例值,实际部署中的配置空间和调优策略尚未披露。
50%待验证SR-SWA在真实复杂文档上的鲁棒性、对版面多样性的适应能力,以及固定参考集是否会在极长文档中丢失关键细节,均需后续验证。
50%