Baidu Open-Source Unlimited OCR 2, Parsing Dokumen Ratusan Halaman dalam Satu Permintaan
Perhatian SR-SWA pada model 3B ini menjaga biaya decoding hampir konstan apa pun panjang dokumen, dengan klaim SOTA di MPDocBench dan MarathonDocBench.
Baidu merilis Unlimited OCR 2, model parsing dokumen open-source berparameter 3 miliar yang mem-parse buku, filing, dan laporan ratusan halaman dalam satu permintaan dengan menjaga konteks lintas halaman. Teknik kuncinya adalah Sparse Reference Sliding Window Attention (SR-SWA), yang mengompresi interaksi atensi teks-visual ke satu set working references berukuran tetap, sehingga latensi dan memori per langkah decoding hampir konstan apa pun panjang dokumen, menghilangkan scaling kuadratik. Mode multi-page memakai 273 image token per halaman.
Perusahaan mengklaim hasil SOTA di MPDocBench dan di MarathonDocBench, benchmark baru dokumen sangat panjang yang dirilis bersama model pada 27 Oktober di GitHub dan Hugging Face. Rilisan ini menutup celah yang ditinggalkan gelombang parser kecil sepekan ini yang optimal untuk dokumen pendek-menengah: dokumen tebal seperti laporan tahunan dan laporan keuangan auditan sebelumnya memerlukan chunking dan stitching, sumber tersembunyi tabel terpotong dan reading order rusak. Angka benchmark merupakan klaim vendor lewat benchmark milik Baidu sendiri.