baidu/Unlimited-OCR-2 · Hugging Face

r/LocalLLaMA에 공유된 Hugging Face 모델 카드(README)를 직접 읽어 옮겼어요.

릴리스

• 2026년 10월 27일 Unlimited OCR 2와 초장문 문서 파싱 벤치마크 MarathonDocBench를 공개했어요.
• ModelScope, Baidu Cloud, Hugging Face Spaces 데모(AK 제작)에서도 쓸 수 있어요.
• 1.0은 2026년 6월 DeepSeek-OCR을 한 걸음 더 밀어붙이려는 목표로 나왔고, 논문(arXiv 2606.23050)과 vLLM·ms-swift 지원이 뒤따랐어요. 라이선스는 MIT예요.

2에서 달라진 점

• SR-SWA(Sparse Reference Sliding Window Attention): 초장문 시퀀스의 텍스트-시각 어텐션 상호작용을 고정 크기의 작업 참조 집합(예: 512토큰)으로 압축해요. 계산 복잡도에 상한이 생겨, 문서가 길어져도 스텝당 디코딩 지연과 메모리가 거의 일정해요.
• 긴 문서에서 '무한' 문서로: 유한한 컨텍스트 창 안에서 끝없는 문서 파싱을 해내, 문서가 커질수록 생기던 어텐션 제곱 증가와 메모리 병목을 사실상 없앴대요.
• 초장문 파싱 SOTA: 수십 쪽짜리(MPDocBench)와 수백 쪽짜리(MarathonDocBench) 벤치마크 모두에서 최고 성능이라고 주장해요.

사용법

• Transformers(빠른 테스트)와 SGLang(서빙 권장)을 지원해요. Transformers는 Python 3.10, torch 2.13.0, transformers 4.52.1, A800-80GB에서 시험했대요.
• 여러 쪽 추론 infer_multi: 문서의 모든 쪽을 한 요청으로 넣어 쪽 사이 맥락을 쓰게 해요. 쪽마다 전역 뷰 하나로 인코딩해요.
• 한 쪽 추론 infer: 기본으로 동적 타일링(gundam 모드)을 써요.

모델 카드 앞부분(릴리스, 새 기능, 추론 방법)을 기준으로 옮겼어요. 벤치마크 표는 다 읽지 않았어요.