CC-OCR وضع تسعة من أفضل نماذج الذكاء الاصطناعي تحت الاختبار باستخدام 7,058 مستندًا حقيقيًا، ومعظمها فشل في الأساسيات
استنادًا إلى: CC-OCR: A Comprehensive and Challenging OCR Benchmark for Evaluating Large Multimodal Models in Literacy — Zhibo Yang, Jun Tang, Zhaohai Li, Pengfei Wang, Jianqiang Wan, Humen Zhong, Xuejing Liu, Mingkun Yang, Peng Wang, Shuai Bai, LianWen Jin, Junyang Lin
إذا قدمت لآخر نموذج متطور للرؤية واللغة صورة لقائمة مطعم تايلندي ملتقطة بزاوية طفيفة تحت إضاءة فلورية، وطلبت منه استخراج أسماء الأطباق والأسعار، فستجد أن عدداً مفاجئاً من هذه النماذج سيبدأ بثقة، ثم يتعثر. ليس التعثر هنا بمعنى "إجابة خاطئة"، بل بمعنى التكرار المستمر لنفس الكلمات الثلاث مراراً وتكراراً حتى يتم قطع الإخراج، مثل القرص الذي يقفز.
هذا أحد النتائج المدفونة في CC-OCR، وهو معيار تم إصداره في ديسمبر 2024 من قبل فريق يتكون أساساً من مجموعة Qwen التابعة لشركة Alibaba، بالتعاون مع جامعة جنوب الصين للتكنولوجيا. اختبرت الورقة البحثية تسعة نماذج كبيرة متعددة الوسائط بارزة، بما في ذلك GPT-4o وGemini، على 7,058 صورة حقيقية وموسومة عبر أربع فئات من مهام قراءة النص. النتيجة الرئيسية: النماذج التي نعتبرها قادرة بشكل عام على "قراءة" الصور لديها أوضاع فشل محددة وقابلة للتنبؤ بها لا تظهرها أبداً درجة الدقة البسيطة. إذا كنت تبني أي شيء يعتمد على معالجة المستندات المدعومة بالذكاء الاصطناعي، فإن هذا التمييز أهم من الترتيب في لوحة الصدارة.

إيصال حقيقي من مجموعة بيانات CORD — النوع من المستندات الواقعية والمائلة التي يستخدمها CC-OCR لاختبار النماذج. المصدر: CORD (Park et al., NAVER CLOVA, 2019)، مرخص بموجب CC BY 4.0.
ما الذي تخطئه معايير تقييم التعرف الضوئي على الحروف عادةً
كان التعرف الضوئي على الحروف، أي استخراج النص القابل للقراءة من صورة، يعني في السابق تشغيل نموذج متخصص مُدرَّب على مهمة ضيقة واحدة: قراءة النص الإنجليزي المطبوع على صفحة ممسوحة ضوئيًا، على سبيل المثال، أو قراءة لوحات الترخيص. غيرت النماذج متعددة الوسائط الكبيرة (LMMs) هذا الإطار المرجعي. تنتمي هذه النماذج إلى نفس عائلة النماذج القادرة على وصف صورة أو الإجابة عن أسئلة تتعلق برسم بياني، وهي أيضًا قادرة على قراءة النص المضمن في الصور، وذلك لأنها خضعت للتدريب على كميات هائلة من أزواج الصور والنصوص المستخرجة من الإنترنت وملفات PDF ولقطات الشاشة.
تكمن المشكلة في أن عبارة "اقرأ النص" تخفي في الواقع العديد من المهارات الفرعية المختلفة والأكثر صعوبة بمجرد الخروج عن نطاق الصفحات الممسوحة ضوئيًا بشكل نظيف. تحتوي المستندات الحقيقية على نصوص بزوايا غير معتادة. وتضم جداول حيث يكمن المعنى في هيكل الشبكة وليس فقط في الكلمات. وتمزج بين لغات متعددة ضمن سطر واحد. وقد تكون مكتوبة بخط اليد، أو تالفة بسبب الماء، أو مصورة بزاوية غريبة باستخدام هاتف شخص ما.
اختبرت معظم معايير تقييم التعرف الضوئي على الحروف الموجودة قبل CC-OCR شريحة ضيقة من هذه المشكلة. ركز بعضها حصريًا على نص المشهد (مثل لافتات الشوارع واجهات المتاجر). بينما ركز آخرون حصريًا على تحليل المستندات (تحويل ملف PDF إلى Markdown أو HTML منظم). واختبرت القليل منها لغات متعددة تتجاوز الإنجليزية والصينية. ولم يجمع أي منها تقريبًا بين "هل يجد النموذج المنطقة الصحيحة من الصورة" (التجذير أو Grounding) و"هل ينتج النموذج نصًا دقيقًا" كأمور قابلة للقياس بشكل منفصل. هذه هي الفجوة التي سعى CC-OCR إلى سدها، وهي سبب أهمية قراءة الورقة البحثية حتى لو لم تنوي تدريب نموذج بنفسك. فهي تخبرك بما يجب عليك التحقق منه فعليًا قبل أن تثق في خط أنابيب التعرف الضوئي على الحروف بمستنداتك.
كيف يتم بناء CC-OCR: أربع مسارات، وليس درجة واحدة
يقسم CC-OCR التقييم إلى أربع مسارات، يستهدف كل منها سيناريو مختلفًا في العالم الحقيقي:
قراءة النص متعدد المشاهد. هذا هو مفهوم "النص في البرية" الكلاسيكي: لافتات الشوارع، وتغليف المنتجات، ولقطات الشاشة، والفواتير. التحدي هنا لا يكمن في قراءة النص بمعزل عن سياقه، بل في العثور على النص أساسًا عندما يكون صغيرًا، أو مائلًا، أو مدمجًا في خلفية مزدحمة، ثم قراءته بدقة.
قراءة النص متعدد اللغات. يمتد هذا المعيار ليشمل لغات تتجاوز الزوج المعتاد من الإنجليزية والصينية الذي يهيمن على أبحاث التعرف الضوئي على الحروف (OCR)، لاختبار ما إذا كان النموذج الذي يقرأ لافتات الإنجليزية جيدًا قادرًا أيضًا على التعامل، على سبيل المثال، مع النص الياباني الرأسي أو النص العربي الذي يُقرأ من اليمين إلى اليسار.
تحليل المستندات. هذه هي مهمة "تحويل ملفات PDF إلى نص منظم" التي أصبحت محورية بشكل متزايد في خطوط أنابيب الذكاء الاصطناعي: حيث يتم أخذ مستند ممسوح ضوئيًا وتحويله إلى تنسيق منظم مثل Markdown أو HTML أو تنسيق آخر يحافظ على الجداول، والترويسات، وترتيب القراءة، وليس مجرد إخراج نص مسطح غير منظم.
استخراج المعلومات الرئيسية. عند التعامل مع مستند مثل فاتورة أو نموذج، يتم استخراج حقول محددة، مثل المبلغ الإجمالي، والتاريخ، واسم المورد، بدلاً من نسخ كل شيء بشكل عشوائي. هذه هي المهمة التي تتطابق بشكل مباشر مع ما تريده الشركات فعليًا من أنظمة التعرف الضوئي على الحروف: ليس "اقرأ لي الصفحة بأكملها"، بل "أخبرني برقم الفاتورة".
تشمل هذه المسارات الأربعة 39 مجموعة فرعية. ويبرز اختيار تصميمي لافت: 41% من إجمالي 7,058 صورة تأتي من تطبيقات حقيقية، وتم إصدارها لأول مرة في هذه الورقة البحثية، بدلاً من إعادة تعبئتها من مجموعات بيانات أكاديمية أقدم. وهذا الأمر مهم لأن المعايير القديمة تميل إلى أن يتم حفظها عن ظهر قلب. فسيبدو النموذج الذي رأى صور مجموعة البيانات أثناء التدريب قويًا بشكل مصطنع عليها. وتجعل الصور الجديدة من العالم الحقيقي الاختبار أقل قابلية للتلاعب وأقرب إلى ما ستواجهه الأنظمة الإنتاجية فعليًا.
كما يميز التقييم بين أمرين تميل معظم درجات التقييم للتعرف الضوئي على الحروف إلى خلطهما: ما إذا كان النموذج يجد الموقع الصحيح في الصورة (التأريض، والذي يُقاس عادةً بمدى تداخل مربع التحديد المتوقع مع المربع الحقيقي) وما إذا كان النص المستخرج دقيقًا. يمكن لنموذج أن يحظى بدقة عالية في النص ومع ذلك يتم تخفيض درجته إذا لم يتمكن من الإشارة إلى مصدر ذلك النص، وهو ما يتبين أنه فشل شائع وكاشف.

لماذا تفشل النماذج المتطورة في التعامل مع الإيصالات واللافتات المائلة
اختبرت الورقة البحثية تسعة نماذج لغوية متعددة الوسائط (LMMs) بارزة، تشمل كلاً من النماذج الخاصة (عائلات GPT-4o وGemini) والنماذج مفتوحة المصدر، وانقسمت النتائج بوضوح إلى ثلاث نقاط ضعف متكررة.
دقة تحديد موقع النص (Text grounding) أسوأ مما توحي به دقة القراءة الخام. قد يقوم النموذج بنسخ النص الموجود على لافتة بشكل صحيح بينما يعجز عن رسم مربع دقيق حول موقع هذا النص في الصورة. قد يبدو هذا فجوة تقنية طفيفة، لكنه يمثل الفرق بين "قرأ النموذج إجمالي الفاتورة" و"يمكن للنموذج أن يخبر نظامك التالي بدقة أين يقع إجمالي الفاتورة، بحيث يمكنك تمييزه، أو إخفاءه، أو التحقق منه مقابل قالب". بالنسبة لأي سير عمل يتجاوز مجرد النسخ النصي، فإن هذه الفجوة هي العامل الحاسم.
النصوص متعددة الاتجاهات تمثل نقطة عمياء متسقة. النصوص المائلة، أو العمودية، أو غير الأفقية بأي شكل من الأشكال، تعطل النماذج التي تتعامل بشكل جيد مع النصوص الأفقية القياسية من اليسار إلى اليمين. وهذا يتوافق مع ما يعرفه بالفعل أي شخص تعامل مع المستندات الممسوحة ضوئياً: النسخ الفعلية في العالم الحقيقي لا تكون مهيأة بشكل مثالي أبداً. إيصال تم تصويره بزاوية، نموذج تم مسحه رأساً على عقب، لافتة يابانية عمودية، هذه ليست حالات هامشية في الإنتاج، بل هي أمر روتيني.
الهلوسة عبر التكرار هي الأحدث والأكثر غرابة. في الصور الأكثر صعوبة أو الفوضوية بصرياً، تقع بعض النماذج في حلقة مفرغة، حيث تتكرر كلمة أو عبارة أو سطر مراراً وتكراراً بدلاً من إنتاج إخراج متماسك ومحدود. هذه ليست حالة يحصل فيها النموذج على إجابة خاطئة؛ بل هي حالة يعلق فيها النموذج في نمط إخراج متدهور تماماً. إنها وضع فشل معروف في توليد اللغة بشكل أوسع (حيث تسقط النماذج أحياناً في حلقات تكرار عندما تكون غير متأكدة مما يجب أن يأتي تالياً)، لكن رؤيتها تظهر تحديداً في مهام التعرف الضوئي على الحروف (OCR)، حيث يتوقع المرء أن يكون الإخراج "الصحيح" مقيداً بإحكام بما هو موجود حرفياً على الصفحة، هو تحذير مفيد. فلتر الثقة (Confidence-based filtering) لن يلتقط هذا بالضرورة، لأن النموذج لا يعبر عن عدم اليقين بطريقة يلاحظها الفحص التلقائي البسيط. إنه ببساطة يكرر نفسه بثقة تامة.
لا يهيمن أي من النماذج التسعة على جميع المسارات الأربعة. قد يكون النموذج قوياً في نص المشاهد الإنجليزية متوسط الأداء في المستندات متعددة اللغات؛ وقد يواجه النموذج الذي يحلل المستندات إلى Markdown نظيف صعوبة في استخراج المعلومات الأساسية من نفس الصور المصدر تماماً. هذه هي الخلاصة العملية: "أفضل نموذج OCR" ليس لقباً واحداً قابلاً للنقل. فهو يعتمد بشكل كبير على المظهر الفعلي لمستنداتك.
لماذا يهمك هذا إذا كنت تبني على تقنية التعرف الضوئي على الحروف
إذا كنت تختار محركاً للتعرف الضوئي على الحروف، أو تبني منتجاً يعتمد عليه، فإن ثلاثة أمور من هذه الورقة البحثية يجب أن تغير طريقة تقييمك للخيارات المتاحة.
أولاً، اختبر على وثائقك الفعلية، وليس على أمثلة العرض التوضيحي الخاصة بالمورد. إن مساهمة CC-OCR نفسها تمثل إلى حد ما انتقاداً للتقييم الضيق: النموذج الذي يحقق نتائج جيدة على نص مشاهد نظيف، أفقي، وباللغة الإنجليزية فقط، لا يخبرك تقريباً بشيء عن كيفية تعامله مع فاتورة عميل حقيقية تحتوي على جداول كثيفة، ومكتوبة بلغات متعددة، ومائلة. إذا كان منتجك يتعامل مع الإيصالات، أو الوثائق بلغات أجنبية، أو النماذج المكتوبة بخط اليد، فقم بإجراء اختبار مقارنة ضد هذه الحالات تحديداً، لأن الترتيب العام في لوحات المتصدرين لن يتنبأ بالأداء في هذه السيناريوهات.
ثانياً، افصل بين "هل قرأ النص" و"هل يمكنه إخباري بمكان النص". إذا كانت حالة الاستخدام الخاصة بك تتضمن تمييز الحقول المستخرجة، أو بناء بيانات منظمة من الوثائق، أو القيام بأي نوع من سير العمل للمراجعة البشرية، فإن دقة التموضع ليست ميزة إضافية، بل هي وظيفة أساسية، وهي بالضبط البعد الذي تظهر فيه نماذج CC-OCR أضعف أداءً نسبياً مقارنة بدقة النص الخام.
ثالثاً، انتبه إلى حلقات التكرار في الإنتاج، وليس فقط إلى الإجابات الخاطئة. النموذج الذي يهذو بإجمالي يبدو معقولاً لكنه غير صحيح هو خطر معروف وقابل للإدارة؛ يمكنك تحديد عمليات الاستخراج ذات الثقة المنخفضة وإضافة خطوة مراجعة. أما النموذج الذي يعلق في تكرار عبارة حتى يصل إلى حد الرموز، فهو فشل مختلف تماماً، يمكنه أن يستهلك ميزانية واجهة برمجة التطبيقات الخاصة بك بصمت على وثيقة واحدة، وينتج مخرجات معطوبة بوضوح لكنها سهلة التغاضي عنها في خط أنابيب مؤتمت إذا لم تكن تتحقق منها بشكل خاص. بناء فحص للطول أو التكرار في خطوة المعالجة اللاحقة ليس مبالغة، بل هو استجابة مباشرة لنمط فشل موثق.
هذا أيضاً هو الحجة العملية لاختبار أكثر من محرك ضد نفس الوثيقة بدلاً من الرهان على نموذج واحد. بما أنه لم يهيمن أي نموذج تم اختباره في CC-OCR عبر جميع المسارات الأربعة (قراءة المشاهد المتعددة، القراءة متعددة اللغات، تحليل الوثائق، استخراج المعلومات الرئيسية)، فإن الخيار الأكثر أماناً للنظام الإنتاجي هو التعامل مع اختيار المحرك كاعتماد على نوع الوثيقة بدلاً من كونه قراراً لمرة واحدة، ولديك مسار احتياطي عندما تظهر نقاط الضعف المحددة لمحركك الأساسي على إدخال معين. ومن الجدير بالذكر أن خصائص الخط العربي، مثل طبيعته المتصلة واتجاهه من اليمين إلى اليسار وأشكال الحروف الحساسة للسياق، تجعل التعرف الضوئي على الحروف أكثر صعوبة بشكل ملحوظ مقارنة بالأنظمة اللاتينية المنفصلة.
ما لم تحسمه الورقة البحثية
يُعد CC-OCR لقطة لـ تسعة نماذج حتى أواخر عام 2024، ويتحرك المجال بسرعة: فقد تم إطلاق نماذج متعددة الوسائط أحدث منذ ذلك الحين، وقد يكون بعضها قد تناول بشكل محدد مشكلات الترسب (grounding) والتكرار التي تسلط الضوء عليها هذه الورقة. كما لا يغوص المعيار بعمق في أسباب حدوث هلوسة التكرار، بل يوثق النمط دون تقديم حل، مما يترك للممارسين بناء منطق الكشف والتخفيف الخاص بهم بدلاً من الاعتماد على علاج موثق.
من الجدير أيضاً بالذكر أن المعيار، مهما كان شاملاً، يبقى مجموعة ثابتة من 7,058 صورة. تستمر الوثائق الحقيقية في مفاجأتك بطرق لا تلتقطها أي مجموعة اختبار ثابتة بالكامل: قالب فاتورة جديد، أو مزيج لغوي لم يفكر أحد في تضمينه، أو عيب مسح ضوئي فريد لعتاد عميل معين. يُعد CC-OCR خريطة مفيدة حقاً لأماكن ميل النماذج الحالية إلى التعثر. إنه ليس بديلاً عن الاختبار ضد وثائقك الخاصة قبل النشر.
هذا هو حقاً الخيط الناظم للورقة بأكملها: القدرة العامة على "قراءة النماذج للصور" ومعالجة الأحرف الضوئية (OCR) الموثوقة والجاهزة للإنتاج هما أمران مرتبطان لكنهما مختلفان، ويظهر الفجوة بينهما في طرق محددة وقابلة للاختبار، مثل الاتجاه، والترسب، والتكرار الجامح، بدلاً من كونها مقبلاً واحداً يمكنك رفعه.