Unlimited-OCR – 百度开源的端到端长文档 OCR 模型AI工具16小时前发布AI小集03Unlimited-OCR是什么Unlimited-OCR 是百度推出的端到端长文档 OCR 模型,通过 Reference Sliding Window Attention机制将解码器 KV cache 从线性增长压缩为常数,实现单次前向转录数十页文档。模型基于 3B 总参 MoE 架构,在 OmniDocBench v1.6 上以 93.92% 总分取得端到端 SOTA,推理速度达 5580 TPS,代码与权重已全面开源。Unlimited-OCR的主要功能超长文档一次识别:支持 2 页至 40+ 页 PDF 文档的单次前向转录,无需逐页 for 循环处理。多类型文档解析:覆盖 PPT、学术论文、书籍、彩色教材、试卷、杂志、报纸、笔记、研究报告等 9 类版式。高精度内容提取:文本、公式、表格、阅读顺序全链路端到端输出,公式 CDM 达 95.79%,表格 TEDS 达 93.32%。双分辨率视觉编码:Base 模式 1024×1024 用于多页长文档,Gundam 模式动态分辨率用于单页高精度识别。常数延迟推理:无论输出序列多长,KV cache 恒定为 m+n,推理延迟与显存占用保持水平稳定。Unlimited-OCR的技术原理R-SWA 注意力机制:每个生成 token 仅关注全部参考 token(视觉+提示词)和最近 128 个输出 token,视觉 token 被排除在滑动窗口状态转移之外,避免长程生成中视觉特征被逐步糊化。常数 KV Cache 设计:将 KV cache 实现为容量 m+n 的队列,每生成一个新 token 即淘汰第 (m+1) 个 token,计算成本与内存占用不随序列长度递增。DeepEncoder 视觉编码:沿用 SAM-ViT 级联 CLIP-ViT 架构,通过 bridge 层做 16 倍 token 压缩,1024×1024 图像压缩为 256 个视觉 token,编码一次后冻结。MoE-LLM 解码器:3B 总参、500M 激活的 MoE 架构,全部注意力层替换为 R-SWA,基于 DeepSeek-OCR checkpoint 续训 4000 步,全局 batch 256,最大序列 32K。推理引擎优化:在 Transformers 与 SGLang 中均实现常数 TPS 与常数显存的 KV cache 管理,Flash Attention v3 内核下 per-call 延迟全程水平。微信关注回复 “开源”,加入AI开源项目交流群如何使用Unlimited-OCR模型下载:通过 Hugging Facebaidu/Unlimited-OCR或 GitHubbaidu/Unlimited-OCR获取代码与权重。环境准备:支持 Transformers 库与 SGLang 推理引擎,需配置对应 GPU 环境。输入格式:支持 PDF 页面图像输入,Base 模式用于多页长文档,Gundam 模式用于单页高分辨率识别。推理调用:单次前向即可完成整本/整份文档的 OCR 转录,无需外部调度器分页处理。扩展应用:R-SWA 机制可迁移至 ASR、翻译、字幕生成等长输出任务。Unlimited-OCR的核心优势SOTA 识别精度:OmniDocBench v1.5 总分 93.23%,v1.6 总分 93.92% 端到端第一。常数资源占用:KV cache 不随文档页数增长,20 页、40+ 页长文档显存与延迟保持稳定。速度随长度放大:输出越长优势越明显,6144 token 时理论 TPS 上限较 DeepSeek-OCR 领先约 35%。通用解码架构:R-SWA 非 OCR 专属 trick,适用于任何”参考源+长输出”的生成任务。轻量开源:3B 总参、500M 激活,模型与代码已开源,便于部署与二次开发。Unlimited-OCR的项目地址GitHub仓库:https://github.com/baidu/Unlimited-OCRHuggingFace模型库:https://github.com/baidu/Unlimited-OCRUnlimited-OCR的同类竞品对比维度Unlimited-OCRDeepSeek-OCR模型规模3B-A0.5B (MoE)3B-A0.5B (MoE)注意力机制R-SWA(参考滑动窗口注意力)标准全注意力KV Cache 增长常数(m+n),不随序列长度增加线性增长,随输出序列持续累积OmniDocBench v1.5 总分93.23%87.01%OmniDocBench v1.6 总分93.92%90.25%(DeepSeek-OCR 2)文本编辑距离0.0380.073公式 CDM92.61%83.37%表格 TEDS90.93%84.97%阅读顺序编辑距离0.0450.086推理速度5580 TPS,全程常数延迟4951 TPS,延迟随长度递增长文档支持单次前向 40+ 页,无需分页长序列受限于 KV cache 膨胀,需分页处理训练基础基于 DeepSeek-OCR checkpoint 续训 4000 步基座模型Unlimited-OCR的应用场景企业档案数字化:批量处理成百上千页扫描版 PDF、古籍、合订本,无需拆分即可一次性结构化提取。学术文献解析:整本论文、期刊合辑、研究报告的端到端转录,保留公式、表格与阅读顺序。教育试卷批改:多页试卷、练习册的批量识别,支持彩色教材与复杂版式。法律合同审核:长篇幅合同文本的精准 OCR 提取,用于后续 NLP 分析与合规审查。多语言翻译流水线:作为 R-SWA 通用解码方案的验证场景,可扩展至 ASR、字幕生成等长序列任务。# AI工具# AI项目和框架©版权声明本站文章版权归AI工具集所有,未经允许禁止任何形式的转载。上一篇方舟 CLI - 字节跳动火山引擎推出的命令行工具下一篇豆包音频生成模型1.0 - 火山引擎推出的端到端音频创作模型相关文章AQ – 蚂蚁推出的AI医疗健康应用AI小集12DeepSeek-Coder-V2 – DeepSeek开源的代码语言模型,与GPT4-Turbo相媲美AI小集4CLEAR – 新加坡国立大学推出的线性注意力机制,生成8K图像时提速6.3倍AI小集2k2 – 月之暗面 Kimi 最新开源的 MoE 架构基础模型AI小集3Project Astra – 谷歌推出的多模态 AI 虚拟助手AI小集2Bookeeping.ai – AI财务管理平台,聊天式完成会计任务AI小集2暂无评论再想想发表评论暂无评论…热门工具豆包LibTV秒哒AiPPT秘塔AI搜索TRAE编程堆友Agent美图设计室绘蛙AISeko响指HaiSnap办公小浣熊最新收录updream墨见Tavafa塔维法几何AI蜜崽检索ArtarchStudio最新文章【亲测】免费白嫖 Qwen3.6,Token 无限量,6月底截止!33分钟前4 个开源 PPT Skill 生成实测 – 从颜值到原生交付全对比34分钟前豆包音频生成模型1.0 – 火山引擎推出的端到端音频创作模型35分钟前方舟 CLI – 字节跳动火山引擎推出的命令行工具18小时前Seedance 2.5 – 字节跳动推出的最新视频生成模型18小时前豆包2.1 – 字节跳动推出的全新智能体模型系列23小时前Spatial-TTT – 清华联合混元开源的流式视觉空间智能框架24小时前Boogu-Image-0.1 – Boogu开源的统一图像生成与编辑模型24小时前AudioX-Turbo – Noiz AI 联合清华推出的音频生成框架24小时前HappyHorse 1.1 – 阿里推出的升级版AI视频生成模型2天前VidMuse – Sand.ai 推出的 AI 音乐视频 Agent2天前SpatialClaw – 英伟达联合 KAIST 推出的免训练空间推理框架2天前Sakana Fugu – Sakana AI 推出的多智能体编排系统2天前Xiaomi Miloco 2.0 – 小米开源的全屋智能 AI 方案2天前Cowart – 开源的本地无限画布插件,让 Codex 看图说话2天前