Jina AI เปิดตัว jina-ocr-v1 โมเดลแปลงเอกสาร 3.4B MoE

วงการปัญญาประดิษฐ์และเครื่องมือจัดการเอกสารต้องตื่นตัวอีกครั้ง เมื่อ Jina AI ประกาศเปิดตัว jina-ocr-v1 โมเดลแปลงเอกสารประเภท Mixture of Experts (MoE) ขนาด 3.4 พันล้านพารามิเตอร์ โดยถูกออกแบบมาเพื่อให้สามารถรันบนกราฟิกการ์ด (GPU) ระดับล่างหรือมีงบประมาณจำกัดได้อย่างมีประสิทธิภาพ โดยในปัจจุบันโมเดลดังกล่าวเปิดให้ดาวน์โหลดน้ำหนักโมเดล (open weights) ขนาดราว 6.8 GB ในรูปแบบ BF16 สำหรับงานวิจัยและการใช้งานที่ไม่ใช่เชิงพาณิชย์ภายใต้สัญญาอนุญาต CC BY-NC 4.0

โครงสร้างเบื้องหลังของโมเดลนี้เป็นการต่อยอดจากการฝึกอบรมเพิ่มเติม (post-training) บนพื้นฐานของ DeepSeek-OCR พร้อมคงองค์ประกอบด้านความเร็วดั้งเดิมไว้ โดยส่วน DeepEncoder มีพารามิเตอร์ราว 380 ล้านพารามิเตอร์ ทำหน้าที่ผสานการทำงานของ SAM, ตัวบีบอัดแบบคอนโวลูชัน 16x และ CLIP-L เพื่อแปลงหน้าเอกสารขนาด 1024x1024 พิกเซล จาก 4,096 แพตช์ ให้กลายเป็น 256 โทเค็นภาพ พร้อมโหมดความละเอียดแบบไดนามิกที่เพิ่มไทต์ท้องถิ่นได้สูงสุด 9 ไทต์ ไทต์ละ 100 โทเค็น ทำให้จำกัดหน้ากระดาษไว้สูงสุดที่ 1,156 โทเค็นภาพ

ในส่วนของตัวถอดรหัส (Decoder) เลือกใช้ DeepSeek-3B-MoE ซึ่งประกอบด้วย 12 เลเยอร์, 64 routed experts และ 2 shared experts โดยมีการทำงานแบบ Top-6 routing ที่เปิดใช้งานพารามิเตอร์ประมาณ 570 ล้านพารามิเตอร์ต่อหนึ่งโทเค็น รองรับขีดจำกัดตำแหน่งสูงสุด 32,768 โทเค็น ให้ผลลัพธ์ออกมาในรูปแบบ Markdown สำหรับข้อความทั่วไป ตารางในรูปแบบ HTML และสูตรทางคณิตศาสตร์ในรูปแบบ LaTeX

ภาพประกอบจากคลังภาพสต็อก ไม่ใช่ภาพจากเหตุการณ์จริง

ความโดดเด่นสำคัญคือการประยุกต์ใช้ Speculative Decoding ผ่านหัวอ่าน FastMTP ที่มีบล็อกร่างแบบทึบ 1 บล็อกทำงานแบบเรียกซ้ำ (recursive) สำหรับขั้นตอน K=3 เพื่อเร่งความเร็วในการสร้างข้อความโดยไม่ทำให้ความแม่นยำตกหล่น ซึ่งค่าเฉลี่ยในการคอมมิตโทเค็นอยู่ที่ 2.73 โทเค็นต่อขั้นตอน เมื่อทดสอบบน NVIDIA L4 ที่ขนาดแบตช์ 1 พบว่าการถอดรหัสแบบกระตือรือร้น (eager decoding) ช่วยเพิ่มความเร็วจาก 42.7 เป็น 83.1 โทเค็นต่อวินาที หรือคิดเป็นอัตราเร็วกว่าเดิม 1.95 เท่า