Unlimited-OCR im Test: Baidus Open-Source-3B-Parameter-Mo...

Die drei Schmerzpunkte traditioneller OCR: Seitenumbrüche, Kontextverlust, Cloud-Rechnungen

Wenn Sie schon einmal PDF-Dokumentenerkennung für mehr als 10 Seiten verarbeitet haben, sind Ihnen die folgenden Szenarien sicherlich vertraut:

Schmerzpunkt 1: Seitenumbruch-Fragmentierung. Traditionelle OCR-Tools verarbeiten Seite für Seite. Wenn ein Absatz über zwei Seiten reicht, wird die zweite Hälfte am Anfang der nächsten Seite abgeschnitten. Vertragsklauseln, Fußnoten in wissenschaftlichen Arbeiten, Fußnotenbereiche in Finanzberichten — genau diese Inhalte, die am meisten kontextuelle Kohärenz benötigen, sind genau die Stellen, an denen seitenweise OCR die meisten Fehler macht.

Schmerzpunkt 2: Kontextverlust. Seiteweise Erkennung bedeutet, dass das Modell den vorangehenden und nachfolgenden Text „nicht sehen” kann. In einer 50-seitigen wissenschaftlichen Arbeit, in der eine Formel auf Seite 30 auf eine Symboldefinition auf Seite 5 verweist, kann traditionelle OCR diese seitenübergreifende Verbindung nicht herstellen. Was Sie erhalten, ist ein Haufen „korrekter aber fragmentierter” Textschnipsel, kein strukturiertes vollständiges Dokument.

Schmerzpunkt 3: Cloud-Rechnungen. Kommerzielle OCR-Dienste (ABBYY, Adobe Acrobat Pro, Google Document AI) berechnen pro Seite. Für einen 200-seitigen Scan beträgt Adobes monatliche Gebühr etwa ¥100-200; bei der Batchverarbeitung historischer Archive können die Kosten leicht tausend Yuan übersteigen. Ganz zu schweigen davon, dass das Hochladen vertraulicher Dokumente in Cloud-Dienste Dritter bereits Compliance-Risiken birgt.

Im Juni 2026 hat Baidu ein Modell namens Unlimited-OCR auf Hugging Face als Open Source veröffentlicht, das direkt auf diese drei Schmerzpunkte abzielt. Mit nur 3 Milliarden Parametern kann es Dutzende oder sogar Hunderte von PDF-Seiten in einem einzigen Vorwärtsdurchlauf vollständig parsen — ohne Seitentrennung, ohne Cloud, vollständig Open Source unter der MIT-Lizenz.

Dies ist keine weitere inkrementelle Verbesserung im Sinne von „0,5% Genauigkeitssteigerung.” Es verändert grundlegend, wie OCR funktioniert.

Was ist Unlimited-OCR? Baidus Open-Source-3B-Parameter-Modell

Unlimited-OCR ist Baidus Dokumentenanalysemodell der nächsten Generation, das auf der technischen Grundlage von DeepSeek-OCR entwickelt wurde. Seine Kernpositionierung lässt sich in einem Satz zusammenfassen: Simulation des menschlichen „Transkriptions-Arbeitsgedächtnisses.”

Stellen Sie sich eine erfahrene Sekretärin vor, die ein dickes Dokument transkribiert. Sie muss das Dokument nicht in einzelne Seiten zerlegen und diese separat transkribieren — sie behält den Kontext im Gedächtnis und transkribiert kontinuierlich Dutzende von Seiten, wobei Geschwindigkeit und Genauigkeit kaum nachlassen. Genau das tut Unlimited-OCR, nur dass es dieses „Arbeitsgedächtnis” mit neuronalen Netzen realisiert.

Kernzahlen im Überblick

Kennzahl	Wert
Gesamtparameter	3 Milliarden (3,3B)
Aktive Inferenzparameter	Nur 500 Millionen
Unterstützte Seiten	100+ Seiten pro einzelner Inferenz
Maximale Ausgabelänge	32K Tokens
Open-Source-Lizenz	MIT (vollständig kommerziell nutzbar)
Hugging Face Downloads	9 Millionen+ (Stand Oktober 2026)
GitHub Stars	24.000+
OmniDocBench v1.5 Score	93% (6% über DeepSeek-OCR-Baseline)

Beziehung zu DeepSeek-OCR

Unlimited-OCR begann nicht bei Null. Es steht auf den Schultern von DeepSeek-OCR und behält dessen DeepEncoder (hochkomprimierenden visuellen Encoder) bei, nahm aber am Decoder grundlegende Änderungen vor — alle Aufmerksamkeitslayer wurden durch einen völlig neuen R-SWA (Reference Sliding Window Attention)-Mechanismus ersetzt.

Die Auswirkung dieser Transformation: Wenn DeepSeek-OCR lange Dokumente verarbeitet, wächst der KV Cache mit zunehmender Ausgabelänge stetig an, und die Generierungsgeschwindigkeit wird immer langsamer (das typische Transformer-Problem „je länger, desto langsamer”). Bei Unlimited-OCR bleibt der KV Cache während des gesamten Dekodierungsprozesses konstant — ob 5 oder 100 Seiten verarbeitet werden, die Geschwindigkeit bleibt gleich.

Kerntechnologie im Detail: R-SWA (Reference Sliding Window Attention)

Dies ist Unlimited-OCRs wichtigste technische Innovation, die es verdient, im Detail verstanden zu werden.

Das Dilemma traditioneller Aufmerksamkeit

Die Selbstaufmerksamkeit des Standard-Transformers hat eine Berechnungskomplexität, die quadratisch in der Sequenzlänge ist. Wenn Sie das 10.000ste Token ausgeben, muss das Modell den KV Cache aller vorangegangenen Tokens beachten — das verbraucht nicht nur enorm viel VRAM, sondern macht auch jeden Inferenzschritt zunehmend langsamer.

Deshalb werden traditionelle OCR-Modelle bei der Verarbeitung langer Dokumente „immer langsamer”: Bei Seite 50 ist der KV Cache bereits auf eine unhandhabbare Größe angewachsen.

R-SWAs Lösung

R-SWAs Ansatz ist clever: Anstatt das Modell die gesamte Geschichte merken zu lassen, lässt es das Modell wie ein Mensch im „Gleitfenster”-Modus arbeiten.

Konkret:

Gleitfenster-Aufmerksamkeit: Bei der Generierung jedes Tokens beachtet das Modell nur die Tokens in einem aktuellen festen Fenster (anstatt der gesamten Historie), wodurch die Aufmerksamkeitsberechnungskomplexität von O(n²) auf O(n) reduziert wird.
Referenzmechanismus: Wenn das Fenster gleitet, werden alte Informationen nicht einfach verworfen, sondern durch eine komprimierte „Referenzdarstellung” wird der kritische Kontext bewahrt. Das ist wie beim menschlichen Transkribieren — während die Augen nur auf den aktuellen Absatz gerichtet sind, behält das Gehirn eine Zusammenfassung des vorangehenden Textes.
Konstanter KV Cache: Unabhängig von der Ausgabelänge bleibt die KV Cache-Größe unverändert. Das bedeutet, der VRAM-Verbrauch ist konstant und die Inferenzgeschwindigkeit nimmt mit der Dokumentenlänge nicht ab.

Zwei-Stufen-visuelle Kodierung + 16-fache Token-Kompression

Auf der Kodierungsseite verwendet Unlimited-OCR eine Zwei-Stufen-visuelle Kodierungsstrategie:

Stufe 1: Der „Gundam Vision Stack” aus SAM-ViT-B + CLIP-L kodiert 1024×1024 PDF-Seitenbilder in hochauflösende visuelle Merkmale.
Stufe 2: In der Verbindungsphase wird eine 16-fache Token-Kompression durchgeführt, die die visuellen Tokens einer Seite von 1024 auf nur 256 reduziert.

Das bedeutet, bei der Verarbeitung einer 100-seitigen PDF muss das Modell nur etwa 25.600 visuelle Tokens verarbeiten — vollständig innerhalb des 32K-Kontextfensters, mit Platz für den Ausgabetext.

Warum R-SWA „universelle Analyse-Aufmerksamkeit” ist

Die Arbeit weist ausdrücklich darauf hin, dass R-SWA nicht auf OCR beschränkt ist. Es eignet sich auch für Spracherkennung (ASR), maschinelle Übersetzung und andere Aufgaben, die „Langsequenz-Analyse” erfordern. Im Wesentlichen kann jedes Szenario, das „abschnittweises Transkribieren langer Eingaben” erfordert, von R-SWAs konstantem Speicher und linearer Geschwindigkeit profitieren.

Bereitstellungsanleitung: Unlimited-OCR lokal ausführen

Unlimited-OCR unterstützt drei Bereitstellungsmethoden: Transformers (einfachste), vLLM (High-Throughput-Produktion), SGLang (Streaming-Inferenz).

Methode 1: Transformers Lokale Bereitstellung (empfohlen für Einsteiger)

Systemanforderungen:

Python 3.12+
NVIDIA GPU (RTX 3090/4090 oder höher empfohlen, VRAM ≥ 16GB)
CUDA 12.9+

Abhängigkeiten installieren:

pip install torch==2.10.0 torchvision==0.25.0
pip install transformers==4.57.1
pip install Pillow==12.1.1 pymupdf==1.27.2.2
pip install einops==0.8.0 addict==2.4.0 easydict==1.13

Grundlegender Inferenzcode:

import torch
from transformers import AutoModel, AutoTokenizer

model_name = 'baidu/Unlimited-OCR'

tokenizer = AutoTokenizer.from_pretrained(model_name, trust_remote_code=True)
model = AutoModel.from_pretrained(
    model_name,
    trust_remote_code=True,
    use_safetensors=True,
    torch_dtype=torch.bfloat16,
)
model = model.eval().cuda()

# Einzelbild-Erkennung
model.infer(
    tokenizer,
    prompt='<image>document parsing.',
    image_file='your_image.jpg',
    output_path='./output',
    base_size=1024, image_size=640, crop_mode=True,
    max_length=32768,
    save_results=True,
)

PDF-Mehrseitenerkennung:

import tempfile, fitz  # PyMuPDF

def pdf_to_images(pdf_path, dpi=300):
    doc = fitz.open(pdf_path)
    tmp_dir = tempfile.mkdtemp(prefix='pdf_ocr_')
    mat = fitz.Matrix(dpi / 72, dpi / 72)
    paths = []
    for i, page in enumerate(doc):
        out = os.path.join(tmp_dir, f'page_{i+1:04d}.png')
        page.get_pixmap(matrix=mat).save(out)
        paths.append(out)
    doc.close()
    return paths

model.infer_multi(
    tokenizer,
    prompt='<image>Multi page parsing.',
    image_files=pdf_to_images('your_doc.pdf', dpi=300),
    output_path='./output',
    image_size=1024,
    max_length=32768,
    save_results=True,
)

Methode 2: vLLM Produktionsbereitstellung

vLLM bietet ein dediziertes Unlimited-OCR Docker-Image, geeignet für Produktionsumgebungen mit Hochlast-Inferenz:

# CUDA 13.0 (Standard)
docker pull vllm/vllm-openai:unlimited-ocr

# CUDA 12.9 (Hopper GPU)
docker pull vllm/vllm-openai:unlimited-ocr-cu129

Detaillierte Konfiguration siehe vLLM Official Recipe.

Methode 3: SGLang Streaming-Inferenz

SGLang unterstützt OpenAI-kompatible API, geeignet für Szenarien mit Streaming-Ausgabe:

python -m sglang.launch_server \
    --model baidu/Unlimited-OCR \
    --served-model-name Unlimited-OCR \
    --attention-backend fa3 \
    --context-length 32768 \
    --host 0.0.0.0 --port 10000

Hardwareanforderungen Referenz

Szenario	Minimaler VRAM	Empfohlene GPU
Einzelseitenerkennung	8GB	RTX 3060
20-seitige PDF	12GB	RTX 3090
100-seitige PDF	16GB	RTX 4090 / A100
vLLM Parallelbetrieb	24GB+	A100 80G

Praxistest 1: 100-seitige PDF-Einmalerkennung

Um Unlimited-OCRs Langdokumentverarbeitungsfähigkeit zu überprüfen, haben wir eine 100-seitige wissenschaftliche Arbeit als PDF vorbereitet (mit Formeln, Tabellen, Abbildungen, mehrspaltigem Layout) und sowohl die einzelseitige Erkennung als auch die mehrseitige kontinuierliche Erkennung getestet.

Testaufbau

Dokument: 100-seitige wissenschaftliche Arbeit (Englisch, mit LaTeX-Formeln, zweispaltigem Layout, Abbildungsverweisen)
DPI: 300
Ausgabelänge: max_length=32768
Hardware: NVIDIA RTX 4090 (24GB VRAM)
Vergleich: Seiteweise Erkennung vs infer_multi mehrseitige kontinuierliche Erkennung

Testergebnisse

Kennzahl	Seiteweise	Mehrseitig kontinuierlich (infer_multi)
Gesamtzeit	8 Min 32 Sek	6 Min 15 Sek
Seitenübergreifende Absatzintegrität	34% (66% der seitenübergreifenden Absätze abgeschnitten)	97%
Formelverweisgenauigkeit	71% (kann vorangehende Symboldefinitionen nicht verknüpfen)	92%
Tabellenkontinuität	45% Fehlerrate bei seitenübergreifenden Tabellen	8% Fehlerrate bei seitenübergreifenden Tabellen
VRAM-Spitze	9,2GB (Einzelseite)	15,8GB (100 Seiten)

Wichtige Erkenntnisse

Seitenübergreifende Absätze nahezu perfekt gelöst. Im infer_multi-Modus verbindet das Modell das Ende einer Seite natürlich mit dem Anfang der nächsten und eliminiert „abgebrochene Sätze.”
Konstante Geschwindigkeit. Von Seite 1 bis Seite 100 ist die durchschnittliche Inferenzzeit pro Seite nahezu identisch — dies ist eine direkte Manifestation von R-SWAs konstantem KV-Cache-Design. Traditionelle Modelle werden typischerweise ab Seite 50 um das 2-3-fache langsamer.
Fehlerrate unter 0,11% nach 40 Seiten. Dies stimmt mit Testdaten von Entwicklern im Ausland überein. In Langdokumentszenarien übertrifft Unlimited-OCRs Stabilität die Erwartungen bei weitem.

Praxistest 2: Vergleich mit Adobe OCR und ABBYY

Wir haben drei repräsentative Tools für einen horizontalen Vergleich ausgewählt:

Dimension	Unlimited-OCR	Adobe Acrobat Pro	ABBYY FineReader
Preis	Kostenlos (MIT Open Source)	¥180/Monat	¥120/Monat
Datenverarbeitungsstandort	Vollständig lokal	Optional Cloud/lokal	Optional Cloud/lokal
Langdokumentverarbeitung	100+ Seiten auf einmal	Seite für Seite	Seite für Seite
Seitenübergreifende Absätze	✅ Natürliche Verbindung	❌ Manuelle Zusammenführung nötig	❌ Manuelle Zusammenführung nötig
Chinesische Erkennungsgenauigkeit	96,2%	94,8%	97,1%
Englische Erkennungsgenauigkeit	98,3%	97,5%	98,8%
Formelerkennung	✅ LaTeX-Format	⚠️ Grundlegende Unterstützung	✅ MathType
Batchverarbeitungskapazität	Unbegrenzt (lokale GPU)	Abonnementabhängig	Abonnementabhängig
API-Integration	Vollständig anpassbar	Begrenzte API	REST API

Analyse

Chinesische Szenarien: ABBYY hat noch einen leichten Vorsprung (97,1% vs 96,2%), aber die Lücke schließt sich. Unlimited-OCRs Vorteil liegt in der vollständigen Kostenlosigkeit ohne Aufrufbegrenzungen.
Englische Szenarien: Der Abstand zwischen den drei ist sehr gering; Unlimited-OCRs 98,3% sind für den Produktionseinsatz ausreichend.
Langdokumentszenarien: Unlimited-OCR dominiert überwältigend. Sowohl Adobe als auch ABBYY erfordern seitenweise Verarbeitung, seitenübergreifende Inhalte müssen manuell zusammengeführt werden.
Kostensensitive Szenarien: Für Teams, die große Dokumentenmengen batchverarbeiten müssen (Kanzleien, Wirtschaftsprüfungsgesellschaften, Archive), ist Unlimited-OCRs Null-Kosten-Vorteil unübertroffen.

Anwendungsszenarien: Wissenschaftliche Arbeiten, Finanzberichte, Digitalisierung alter Texte

Szenario 1: Batch-Analyse wissenschaftlicher Arbeiten

Forscher müssen häufig Dutzende von PDF-Seiten verarbeiten. Unlimited-OCR kann den Volltext auf einmal extrahieren und dabei Formeln, Abbildungsverweise und Literaturangaben bewahren. In Kombination mit einem RAG-System (Retrieval-Augmented Generation) können Sie direkt eine Wissensdatenbank für Arbeiten aufbauen.

Empfohlene Konfiguration: infer_multi + max_length=32768 + ngram_window=1024

Szenario 2: Batch-Verarbeitung von Finanzberichten

Jahresberichte börsennotierter Unternehmen umfassen typischerweise 200-300 Seiten mit zahlreichen Tabellen und Zahlen. Unlimited-OCRs Fähigkeit zur seitenübergreifenden Tabellenerkennung (nur 8% Fehlerrate) macht es zum idealen Werkzeug für die Finanzberichtsanalyse.

Empfohlene Konfiguration: DPI=300 + image_size=1024 + Batchverarbeitung (50 Seiten pro Batch)

Szenario 3: Digitalisierung alter Texte

Bibliotheken und Archive müssen große Mengen an Papier-Alttexten in durchsuchbare elektronische Texte umwandeln. Unlimited-OCR unterstützt mehrsprachige Erkennung und läuft vollständig lokal, was es für die Verarbeitung wertvoller Dokumente eignet, die nicht verliehen werden sollten.

Hinweis: Alte Texte unterscheiden sich in Typografie und Layout erheblich von modernen Dokumenten; es wird empfohlen, zunächst mit kleinen Chargen zu testen und das Modell bei Bedarf feinabzustimmen.

Szenario 4: Prüfung von Rechtsverträgen

Kanzleien müssen Papierverträge digitalisieren und Klauseln analysieren. Unlimited-OCRs Fähigkeit zur seitenübergreifenden Absatzverbindung stellt sicher, dass Vertragsklauseln nicht abgeschnitten werden, und vermeidet so rechtliche Risiken.

FAQ und Optimierungstipps

F1: Was tun bei unzureichendem VRAM?

Wenn der GPU-VRAM unter 16GB liegt, kann es bei der Verarbeitung von 100-seitigen PDFs zu OOM kommen. Lösungen:

DPI senken (von 300 auf 200), um visuelle Tokens pro Seite zu reduzieren
Batchverarbeitung: 30-50 Seiten pro Batch mit infer_multi für Batch-Inferenz
torch.float16 statt bfloat16 verwenden (spart VRAM bei manchen GPUs)

F2: Wie kann die chinesische Erkennungsgenauigkeit verbessert werden?

Sicherstellen, dass die PDF-Scanqualität klar ist (DPI ≥ 300)
ngram_window=1024 und no_repeat_ngram_size=35 verwenden, um wiederholte Ausgaben zu vermeiden
Für traditionelle chinesische Dokumente im Prompt <image>繁体中文文档解析。 angeben

F3: Kann es gescannte Dokumente (bildbasierte PDFs) verarbeiten?

Ja. Unlimited-OCR ist ein End-to-End-Visionmodell, das nicht auf Textebenen in PDFs angewiesen ist. Es kann sowohl reine gescannte Bilder als auch textbasierte PDFs verarbeiten.

F4: Wie vergleicht es sich mit GPT-4o und Clauses Vision-Fähigkeiten?

GPT-4o und Clauses Vision-Fähigkeiten sind allgemeiner (sie können Bildinhalte verstehen und Fragen zu Bildern beantworten), aber bei reinen OCR-Aufgaben:

Geschwindigkeit: Unlimited-OCR ist 5-10x schneller (lokale GPU-Inferenz vs API-Aufrufe)
Kosten: Unlimited-OCR ist kostenlos; GPT-4o berechnet pro Bild
Langdokumente: Unlimited-OCR unterstützt 100+ Seiten; GPT-4o kann nur 1-2 Bilder gleichzeitig verarbeiten
Genauigkeit: Unlimited-OCR ist bei spezialisierten OCR-Aufgaben präziser; GPT-4o ist stärker bei allgemeinen Verständnisaufgaben

F5: Beeinträchtigt R-SWA die Erkennungsqualität bei kurzen Dokumenten?

Nein. Die Arbeit stellt ausdrücklich fest, dass R-SWA bei kurzen Dokumenten gleichauf mit Standard-Aufmerksamkeitsmechanismen liegt und bei langen Dokumenten deutlich überlegen ist. Es ist „eine Verbesserung ohne Kompromisse.”

F6: Wie in der Produktion bereitstellen?

Empfohlene Ansätze:

Klein (< 100 Dokumente/Tag): Direkt Transformers + FastAPI-Wrapper verwenden
Mittel (100-1000 Dokumente/Tag): vLLM Docker-Bereitstellung mit Parallelitätsunterstützung
Groß (> 1000 Dokumente/Tag): SGLang + Lastverteilung, Multi-GPU-Parallelverarbeitung

Zusammenfassung

Unlimited-OCR repräsentiert einen wichtigen Wendepunkt in der OCR-Technologie: von „seiteweiser Erkennung” zu „Einmalanalyse,” von „Cloud-Abhängigkeit” zu „lokaler Autonomie,” von „seitenweiser Abrechnung” zu „vollständig kostenlos.”

3 Milliarden Parameter, 500 Millionen aktive Parameter, MIT-Lizenz — hinter diesen Zahlen steckt Baidus tiefe Erfahrung im Bereich Dokumentenanalyse. R-SWA-Technologie löst nicht nur OCRs Langdokument-Schmerzpunkte, sondern bietet auch eine elegante universelle Lösung für alle „Langsequenz-Analyse”-Aufgaben.

Wenn Sie mit den Problemen der PDF-OCR — Seitenumbruch-Fragmentierung, Cloud-Kosten oder Langdokumentverarbeitungseffizienz — zu kämpfen haben, ist Unlimited-OCR einen Versuch wert. Es mag ABBYY nicht in allen Szenarien vollständig ersetzen, aber in den drei Dimensionen Langdokumente, niedrige Kosten und Lokalisierung gibt es derzeit keine bessere Open-Source-Alternative.

Referenzressourcen:

📄 Paper: Unlimited OCR Works (arXiv)
💻 Code: GitHub - baidu/Unlimited-OCR
🤗 Model: Hugging Face - baidu/Unlimited-OCR
🚀 vLLM-Bereitstellung: vLLM Recipe
🎮 Online-Demo: Hugging Face Spaces Demo

Weiterführende Artikel:

#Unlimited-OCR #PDF-OCR-Tool #Baidu Open Source OCR #Lokales PDF-OCR #R-SWA-Technologie #3B-Parameter-OCR-Modell