百度发布了 Unlimited OCR 2,这是一款专为超长文档打造的开源OCR模型。该3B模型能够在一次请求中解析数百页的书籍、文件和报告。其核心创新是SR-SWA,一种稀疏注意力机制,可使每步解码开销几乎保持恒定。相关权重以MIT许可证发布,代码托管于GitHub。
简而言之
大小:3.34B 参数。活跃参数未披露。最大位置长度为131,072个标记。
运行环境:1块CUDA GPU,采用BF16精度。百度在NVIDIA A800-80GB上进行了测试。BF16权重总大小约为6.7 GB。
性能:在百度测试的两项多页基准测试中均位居第一,优于其他9个模型(据其自述)。
最佳:在 MarathonDocBench 上的综合得分为 77.1(数百页)。下一款型号 Kimi-K3 的得分为 33.7。
最差:在 MarathonDocBench 上,标题层级(TEDS)得分为 48.2,为各项子指标中的最低分。
什么是 Unlimited OCR 2?
Unlimited OCR 2 是百度推出的一款 3B 视觉语言模型,可将有序的页面图像转化为结构化文本。其输出涵盖文本、表格、公式、图表、标题以及阅读顺序。该模型继承并超越了于 2026 年 6 月发布的 Unlimited-OCR,进一步提升了 DeepSeek-OCR 的性能。
该配置沿用了 DeepSeek-OCR 的布局风格。一个 SAM ViT-B 加上 CLIP-L 编码器,为一个由 12 层混合专家组成的解码器提供输入。每个标记会路由到 64 个专家中的 6 个,外加 2 个共享专家。DeepSeek-OCR 论文将这一解码器称为 DeepSeek3B-MoE-A570M。百度并未公布版本 2 的活跃模型数量。在多页模式下,每一页需要消耗 273 个图像标记。
SR-SWA 是如何工作的?
全注意力的计算开销随序列长度呈平方增长。在解码过程中,每个新生成的标记都需要扫描更长的KV缓存。以每页273个图像标记为例,100页就会在产生任何输出之前就累计多达27,300个输入标记。
SR-SWA 代表稀疏参考滑动窗口注意力机制。它将文本-视觉注意力压缩为一组固定的工作参考。百度的模型卡片以 512 个标记作为示例规模。该配置将一个 128 个标记的局部窗口与对 32 个标记块的前 16 个选择相结合,即 16 个各含 32 个标记的块,从而恰好匹配 512 个标记的预算。
这使得随着文档规模的增大,每一步的延迟和内存消耗几乎保持不变。它将这种结果称为在有限上下文窗口内的“无限 horizon”解析。然而,图像编码时间和总运行时间仍会随页面数量的增加而增长。
它在 MPDocBench 和 MarathonDocBench 上的表现如何?
百度团队在 MPDocBench 上进行了测试,每个文档包含数十页;同时也在 MarathonDocBench 上进行了测试,每个文档包含数百页。MPDocBench-Parse 是一个包含 433 个文档、共 3,246 页的公开基准。我们未能找到 MarathonDocBench 的公开版本。
根据百度的排行榜,Unlimited OCR 2 在 MPDocBench 上的得分为84.6。Qwen3.8-Max 紧随其后,得分为78.3;Qwen-3.8-Flash-Next 的得分为77.4。在 MarathonDocBench 上,它的得分为77.1。Kimi-K3 的得分为33.7,随后是 Gemini-3.8-Flash,得分为28.6。
基准测试结果的下滑才是真正的关键。Qwen3.8-Max 在百页文档上的得分从78.3降至22.9。Unlimited OCR 2 下降了7.5分。而其前代产品 Unlimited-OCR 在 MarathonDocBench 上的得分为0.0。
子分数(MPDocBench / MarathonDocBench):
94.8 / 89.6
公式:89.4 / 87.9
阅读顺序:92.3 / 85.3
表格:87.8 / 74.8
标题层级:60.1 / 48.2
MPDocBench 上的单指标差距很小。Qwen3.8-Max 在文本方面的得分为94.3,在公式方面的得分为89.2。所有数据均为自报,仅以图表形式呈现。
与其他开源OCR模型的比较
Unlimited OCR 2Unlimited-OCRDeepSeek-OCR-2PaddleOCR-VL-1.6开发者百度百度DeepSeek百度PaddlePaddle参数3.34B3.34B3.39B0.96B活跃参数未披露未披露未披露未披露许可证MITMITApache 2.0Apache 2.0论文/发布2026年10月(报告)2026年6月(arXiv)2026年1月(arXiv)2026年6月(arXiv)长文档机制SR-SWA,512-token参考集多页推理多页推理,无SR-SWANot disclosedNot disclosedMPDocBench总体84.6(百度)61.9(百度)未报告未报告MarathonDocBench总体77.1(百度)0.0(百度)未报告未报告服务端Transformers,自定义SG语言Transformers,vLLM,SG语言Transformers,SG语言PaddleOCR,Transformers
各模型在 Hugging Face 页面上的参数量与许可证信息。百度图表中的基准测试得分。
如何运行 Unlimited OCR 2?
模型卡片列出了用于快速测试的 Transformers 和用于推理服务的 SGLang。在 Transformers 中,infer 支持以动态分块方式处理单页文档,称为“高达模式”。而 infer_multi 则在一次请求中解析文档的每一页,因此模型能够保持跨页上下文。加载时需设置 trust_remote_code=True,这将执行来自该仓库的 Python 代码。
SGLang 服务使用的是百度定制的 wheel 包,而非上游的 SGLang。百度的示例中,每个窗口调度 10 个页面,并复用前一个窗口的 KV 尾部。较小的窗口可以降低内存峰值,但会削弱跨页面的合并效果。百度提醒,如果采用默认的 bias 设置,可能会触发 462 MiB 的内存分配并导致内存耗尽。
要点总结
Unlimited OCR 2 是一款由百度推出的、大小为 3.34B 的 MIT 许可证 OCR 模型。
SR-SWA 在固定的512个标记参考集上吸引注意力。
它在MarathonDocBench上的得分为77.1,而紧随其后的模型仅为33.7。
标题层级是其薄弱环节,在长文档上的得分为48.2。
所有基准测试数据均为百度自有。
请查看模型卡片、技术报告以及 GitHub 仓库。此外,欢迎在 Twitter 上关注我们,别忘了加入我们的 15 万+ 机器学习 SubReddit,并订阅我们的新闻通讯。等等!您在使用 Telegram 吗?现在您也可以在 Telegram 上加入我们了。
需要与我们合作推广您的 GitHub 仓库、Hugging Face 页面、产品发布或网络研讨会等吗?请联系我们
该文章“百度开源适用于百页文档解析的无限OCR 2”最初发表于MarkTechPost。