لماذا قد تضر عمليات المسح التي تبدو الأكثر ازدحاماً في مجموعة التدريب الخاصة بك بنموذج التعرف الضوئي على الحروف (OCR) الخاص بك

تخيل مسحَين لوثيقتين موجودتين في نفس مجلد التدريب. أحدهما فاتورة نظيفة: خلفية بيضاء، نص أسود، وشعار في الزاوية. والآخر إيصال دفع مرّ في المحفظة لمدة أسبوع، ملطّخ، مجعد، ومطبوع على ورق حراري لامع يعكس الضوء. يمكن لعينيك أن تميز الفرق بينهما. وما تجادل فيه ورقة بحثية جديدة هو أنه يمكنك أيضًا الحصول على رقم يعبّر عن هذا الفرق، يتم حسابه من خلال تمريرة واحدة عبر شبكة عصبية، دون الحاجة إلى تسميات أو تدريب. وهنا الجزء الذي يجب أن يجعل أي شخص يقوم بفرز بيانات التعرف الضوئي على الحروف (OCR) ينتبه: بالنسبة للـ OCR تحديدًا، الوثائق التي تحصل على أعلى درجات في هذا الرقم هي غالبًا تلك التي يجب التخلص منها.

الورقة البحثية بعنوان "ERank في الفضاء الكامن كمقياس لتعقيد الصورة ووفرة المعلومات"، من تأليف ماكسيم سмирnov، غريغوري كونونوف، أناستاسيا لينيتش، إيغور سوركوف، وإيغور شفيتسوف. إنها فكرة قصيرة ومفيدة مُلبَّسة ببعض الجبر الخطي، وهي تستحق الفهم ليس فقط لأن المقياس نفسه رخيص التكلفة وقابل لإعادة الاستخدام، بل لأن نتيجة اختيار البيانات تتعارض مع الحدس القائل بأن "المزيد من المعلومات يعني دائمًا بيانات تدريب أفضل".

قياس "مدى ما يحدث" في صورة أصعب مما يبدو

لنفترض أنك تريد ترتيب مجموعة من الصور حسب التعقيد البصري، من البسيطة إلى المزدحمة. قد تعتقد أن هذه المشكلة محلولة. لكن الأمر ليس كذلك، ليس بشكل واضح.

الخيارات الرخيصة هي جميعها بديلة عن شيء آخر. حجم ملف JPEG (أو معدل البت في مشفر الفيديو) يخبرك بمدى قابلية ضغط الصورة، وهو ما يرتبط بالتعقيد ولكنه يرتبط أيضاً بالدقة، والضوضاء، وخيارات مشفر معين. كثافة الحواف، عدد البكسلات التي يحددها فلتر سوبل أو كاني كحواف، يلتقط القوام لكنه يعامل صورة للحصى وصورة لنص كثيف على نفس المستوى من "التعقيد"، وهو أمر غير مفيد إذا كنت تهتم فعلاً بالمحتوى. مقاييس الحدة (عادةً تباين فلتر لابلاسيان) تخبرك عن التركيز، وليس عن الغنى. لا يتطلب أي منها نموذجًا مدربًا، وهو ما يجعلها جذابة، ولا يتفق أي منها مع الآخر أو مع الطريقة التي سيقوم بها شخص ما بترتيب نفس الصور.

الخيار المكلف هو ببساطة سؤال الناس. IC9600 هو مجموعة بيانات عامة تم إنشاؤها خصيصًا لهذا الغرض: 9,600 صورة مع درجات تعقيد مُعلَّمة بواسطة البشر. إنه حقيقة أرضية جيدة، لكن لا يمكنك تشغيل لجنة بشرية على كل صورة في مجموعة تدريب تحتوي على ملايين العينات، ولا ينبغي أن تحتاج إلى ذلك.

ما ينقص هو شيء في المنتصف: رخيص مثل الاستدلالات على مستوى البكسل، لكنه مستنير بما "يراه" نموذج مدرب فعليًا في الصورة بالطريقة التي يفعلها المقيّمون البشر ضمناً. هذه هي الفجوة التي يحاول ERank ملءها.

عدّاد الاتجاهات التي تستخدمها الصورة فعلياً

إليك الآلية، مُجردة من الرياضيات. مرر صورة عبر مُشفّر صور مُجمّد ومدرب مسبقاً، من النوع المستخدم للتصنيف أو التضمينات، وتوقف في منتصف الطريق، عند إحدى خرائط الميزات الداخلية. تحتوي خريطة الميزات هذه على قناة لكل نمط تعلمته الشبكة للكشف عنه: حواف بزوايا معينة، تباينات لونية، أنواع من القوام، أو أي شيء التقطته الشبكة أثناء تدريبها الخاص. في كل موقع مكاني في الصورة، تنشط كل من هذه القنوات بقيمة تنشيط معينة.

الآن اطرح سؤالاً بسيطاً: عبر الصورة بأكملها، ما مدى استقلالية هذه القنوات عن بعضها البعض؟ إذا كانت جدار فارغ يمر عبر الشبكة، فستتحرك معظم القنوات معاً، لأنه لا يوجد شيء محلي يميزها، لون مسطح إلى حد كبير، بدون حواف، وبدون قوام. تشرح حفنة من القنوات تقريباً كل التباين. إذا كان سوق مزارعين أو مكتب مزدحم يمر عبر الشبكة، فإن مناطق مختلفة تنشط مجموعات مختلفة جداً من القنوات، حواف في رقعة واحدة، تدرجات لونية في أخرى، وقوام ناعم في مكان آخر، لذا فإن العديد من القنوات تتصرف بشكل مستقل عن بعضها البعض.

يمكنك صياغة "كم عدد القنوات التي تتصرف بشكل مستقل" باستخدام الرتبة الفعالة لمصفوفة التغاير بين القنوات. خذ التغاير بين القنوات عبر الصورة، احصل على قيمها الذاتية، قم بتطبيعها إلى توزيع احتمالي، واحسب إنتروبيا هذا التوزيع. قم بأخذ الأس الطبيعي للإنتروبيا وستحصل على رقم، يُسمى ERank، يتصرف مثل الرتبة ولكن لا يحتاج إلى أن يكون عدداً صحيحاً. قد تحصل صورة مملة على ERank يبلغ بضع عشرات من بين مئات القنوات الممكنة. قد تستخدم صورة غنية ومزدحمة عدداً أكبر بكثير من ذلك. إنه عدّاد ناعم لعدد "المقابض" المستقلة التي تقوم الصورة بتدويرها فعلياً، وليس حكماً مُصنفاً، وليس حجم ملف، بل مجرد خاصية لكيفية وجود الصورة في فضاء الميزات الذي تعلمته الشبكة نفسها.

هذا هو الجزء الذكي من الورقة البحثية: فهو لا يحتاج إلى تدريب، ولا تسميات، ولا إعداد خاص بالمهمة. قم بتشغيل المُشفّر مرة واحدة، قم ببعض الجبر الخطي على المخرجات، وانتهى الأمر.

هل يتتبع الرقم حقًا ما يسميه البشر معقدًا؟

بشكل معقول إلى حد كبير. فبالنسبة للتقييمات البشرية في مجموعة IC9600، ترتبط ERank ارتباطًا إيجابيًا بمعامل ارتباط r = 0.72. هذه ليست تطابقًا تامًا، إذ لا يزال هناك ما يقرب من نصف التباين في التقييمات البشرية غير مفسر، لكنها نتيجة قوية لقياس آلي بالكامل وخالي من العلامات يتم التحقق منه مقابل حكم بشري ذاتي، وهو هدف ضوضائي بحد ذاته (فالأشخاص لا يتفقون تمامًا مع بعضهم البعض بشأن "التعقيد" أيضًا).

كما تتتبع ERank القواعد الإرشادية الرخيصة التي من المفترض أن تحسنها: فمعدل بتات الترميز، والحدة، وكثافة الحواف تتحرك جميعها معها. وهذا مطمئن وليس مفاجئًا. فهو يؤكد أن ERank لا تقيس شيئًا متعامدًا تمامًا مع المفهوم الحدسي للازدحام البصري. إنها نسخة أكثر ترسيخًا لنفس الفكرة، مبنية على التمثيل المتعلم من النموذج بدلاً من إحصائيات البكسل الخام.

المشكلة: الضوضاء تبدو معقدة أيضاً

هنا يتعامل البحث بطريقة أعجبني: فهو لا يقتصر على الإبلاغ عن علاقة ارتباطية ثم يتجاوز الأمر. بل يفحص سلوك ERank في ظل وجود ضوضاء، والإجابة الصادقة هي أن الضوضاء ترفع قيمته. إذا أضفت ضوضاء بيكسل عشوائية إلى صورة، فإنك تفك ارتباط القنوات تقريباً بالتعريف، فالضوضاء الثابتة لا تحترم الحواف أو القوام، لذا يمكن لصورة مشوشة أن تحقق قيمة ERank عالية دون أن تحمل أي محتوى حقيقي أكثر مما كانت عليه في البداية.

هذا الأمر مهم جداً لأي شيء يشبه المستند. فعيوب المسح الضوئي، حبيبات الورق، كتل ضغط JPEG، وتسلل علامات الماء هي جميعاً ضوضاء بهذا المعنى. يمكن لصفحة ممسوحة ضوئياً ذات قوام ورقي مرئي وعلامة ماء خلفية خافتة أن تحصل على تقييم "أغنى" من تصدير PDF رقمي حاد للنص نفسه، على الرغم من عدم تغيير أي شيء في المحتوى الفعلي. لا يميز ERank بوضوح بين "هذه الصورة تحتوي على معلومات بصرية أكثر حقاً" و"هذه الصورة مجرد أكثر ضوضاءً". يتبين أن هذا الغموض هو السبب الجوهري وراء فعالية المقياس كفلتر لبيانات التعرف الضوئي على الحروف (OCR)، وهو أيضاً الأمر الذي يجب وضعه في الاعتبار قبل الوثوق بالرقم بشكل أعمى.

النتيجة الحقيقية: التقليم باستخدام ERank يساعد في بعض المهام ولا يساعد في أخرى بنشاط

هذه هي الجزء الحاسم. استخدم المؤلفون ERank كمعيار لاختيار البيانات، مما يعني أنهم دربوا النماذج على مجموعات فرعية من مجموعة بيانات تم اختيارها عن طريق قطع الجزء العلوي أو السفلي من توزيع ERank، وقاسوا ما حدث عبر عدة مهام للرؤية الحاسوبية.

تبرز نتيجتان لأنهما تشيران في اتجاهين متعاكسين:

• تحسنت دقة الفائق (Super-resolution) عند إزالة الصور ذات ERank المنخفض. تتعلم نماذج دقة الفائق إعادة بناء التفاصيل الدقيقة من مدخلات ضبابية أو منخفضة الدقة. الصورة التي تكون مسطحة في الغالب، مثل جدار أو سماء أو سطح طاولة فارغ، لا تقدم للنموذج سوى القليل جداً لتعلمه حول إعادة بناء الملمس. التدريب على كومة من هذه الصور يهدر القدرة على أمثلة شبه تافهة. قطع الجزء السفلي من توزيع ERank يترك ما هو أغنى، وأكثر نسيجاً، وأكثر إرشادية لنموذج وظيفته كلها هي تخيل التفاصيل.

• تحسنت قراءة البصريات الحاسوبية (OCR) عند إزالة الصور ذات ERank المرتفع. هذا هو الجزء غير البديهي. قد تعتقد أن المزيد من المعلومات البصرية في مستند التدريب سيساعد النموذج الذي يقرأ ذلك المستند. ولكن بالنسبة لـ OCR، فإن الإشارة المفيدة، وهي الرموز، توجد في جزء منخفض التعقيد نسبياً من الصورة: خلفية مسطحة في الغالب، وخطوط داكنة حادة. الصور التي تحقق أعلى درجات ERank في مجموعة مستندات تميل إلى كونها تلك التي يهيمن فيها شيء آخر غير النص على مساحة الميزات: أنماط خلفية ثقيلة، أو صور مدمجة، أو ورق مزخرف، أو علامات مائية كثيفة، أو مجرد ضوضاء مسح ضوئي، وهي بالضبط الغموض بين الضوضاء والإشارة الذي يشير إليه الورقة سابقاً. التدريب على هذه الصور ينفق الجهد على الخلفيات بدلاً من الرموز، والشرائح العليا من توزيع ERank هي المكان الذي توجد فيه هذه الفوضى بشكل غير متناسب.

والنتيجة التي تربط كل شيء معاً: لم يفعل التقليم باستخدام ERank شيئاً للتصنيف، أو التقسيم، أو إزالة الضوضاء. الإطار الذي قدمه الملخص للسبب هو ملخص واضح: يساعد ERank بالضبط عندما تحكم صعوبة المهمة مدى غنى أو بساطة المدخلات. ما إذا كان النموذج يمكنه تسمية الكائن في صورة، أو رسم قناع دقيق حوله، لا يعتمد على عدد قنوات الميزات التي تضيء الصورة بأكملها. كلب على سجادة ذات نمط مزدحم ليس أصعب في التصنيف من كلب على عشب بسيط فقط لأن السجادة تحقق درجة ERank أعلى. التعقيد كغنى والمهمة كصعوبة هما محورين مختلفين، ولأولئك الثلاثة مهام لا تتطابق.

هذا الأمر سار في كل من التدريب المسبق والتدريب الدقيق، مما يشير إلى أنه ليس مجرد أثر جانبي لنظام تدريب واحد، بل هو خاصية لما تحتاجه المهام فعلياً من بياناتها.

لماذا يهم ذلك أي شخص يبني أو يختار نظام التعرف الضوئي على الحروف (OCR)

إذا كنت تقوم بتجميع أو تدقيق مجموعة بيانات تدريب لنموذج المستندات، فإن ERank يمنحك طريقة مجانية وأوتوماتيكية لتحديد جزء من بياناتك الذي من المرجح أن يكون ضوضاء خلفية بدلاً من إشارة نصية مفيدة، دون الحاجة إلى وضع علامات يدوية على صورة واحدة أو الانتظار للحصول على حكم من لجنة تعقيد بشري. هذا فلتر عملي وقابل للاستخدام، وليس مجرد فضول بحثي: قم بتشغيل ممر المشفر (encoder pass) مرة واحدة على مجموعتك، ورتب النتائج حسب ERank، وانظر بعناية إلى الشريحة العليا قبل أن تدرب عليها.

كما يقدم تفسيرًا معقولًا لنمط يسهل ملاحظته لكنه صعب التسمية بدقة: بعض أنواع المستندات تكون صعبة بشكل مزمن على محركات التعرف الضوئي على الحروف، مثل أوراق نهاية الكتب المزخرفة، والنماذج ذات العلامات المائية الكثيفة، والإيصالات ذات شعارات الخلفية المطبوعة، ومن المغري ببساطة تسميتها "مستندات صعبة" دون وجود طريقة لقياس السبب. يمنحك ERank رقمًا يوضح "السبب": هذه هي الصفحات التي تتنافس فيها الخلفية مع النص على انتباه النموذج، ويمكن قياس هذه المنافسة قبل تشغيل التعرف الضوئي عليها مطلقًا. ومن الجدير بالذكر أن طبيعة الكتابة العربية، بحروفها المتصلة واتجاهها من اليمين إلى اليسار وأشكالها الحساسة للسياق، تضيف طبقة إضافية من التعقيد البصري الذي قد يفاقم هذا التنافس بين النص والخلفية.

هناك تطبيق آخر يستحق المراقبة أكثر من اعتماده الفوري: منصة تقوم بتوجيه المستندات عبر محركات متعددة للتعرف الضوئي على الحروف يمكنها، من الناحية النظرية، استخدام ERank كإشارة لكل مستند، وإرسال الصفحات ذات ERank العالي (الأكثر عرضة للزحام البصري أو الضوضاء) إلى محرك أكثر قوة أو تكلفة، وإرسال الصفحات النظيفة ذات ERank المنخفض إلى محرك أرخص وأسرع. لم يبني أحد أو يثبت صحة هذه الأنابيب بعد بناءً على هذه الورقة. إنها امتداد طبيعي للنتيجة، وليس ادعاءً تقدمه الورقة.

ما لا يزال غير مثبت

ارتباط الحكم البشري، r = 0.72، جيد لكنه ليس وثيقاً. جزء ذو دلالة مما يصفه البشر بـ "المعقد" لا يتم التقاطه من خلال عد اتجاهات الميزات النشطة، ومن الجدير بالذكر أن نتذكر ذلك قبل التعامل مع ERank كحقيقة قاطعة بدلاً من كونه وكيلًا مفيدًا.

تعتمد هذه المقياس أيضاً على مشفر (encoder) مجمد الذي يتم تشغيله من خلاله. شبكة تم تدريبها مسبقاً على صور طبيعية تتعلم مجموعة مختلفة من القنوات مقارنة بشبكة تم تدريبها مسبقاً على المستندات أو تم تدريبها بهدف مختلف تماماً، وستكون نتائج الورقة البحثية مرتبطة بأي مشفر استخدموه. يجب على أي شخص يعيد استخدام ERank في مجال مختلف أن يتوقع إعادة التحقق منه بدلاً من افتراض أن نفس العتبات تنطبق.

حساسية الضوضاء هي النقطة التي يجب مراقبتها عن كثب بالنسبة للتعرف الضوئي على الحروف (OCR) تحديداً، نظراً لكثرة بيانات المستندات الإنتاجية (المسح الضوئي الحقيقي، صور الهواتف الفاتورة، الفاكس) التي تحمل ضوضاء استكساب لا علاقة لها بثراء المحتوى. إذا لم يتمكن ERank من التمييز الكامل بين "صورة أغنى حقاً" و "صورة أكثر ضوضاء"، فقد يكون جزء من ما يتم التخلص منه كـ "فوضى" عالية ERank مجرد حبيبات مسح ضوئي، وقد يتم التخلص من جزء من المستندات المعقدة حقاً وغنية بالمعلومات معها. نتائج OCR في الورقة البحثية ثبتت في المجمل، وهو الدليل الذي يهم، لكن هذا لا يعني أن كل مستند فردي تم التخلص منه بواسطة المرشح كان يستحق ذلك.

وتأتي نتائج اختيار البيانات من معايير بحثية مع مقارنات نظيفة قبل/بعد. خطوط الأنابيب الإنتاجية أكثر فوضوية: أنواع مستندات مختلطة، جودة استكساب مختلطة، استخدامات تالية مختلطة لنفس المجموعة. ما إذا كانت "قطع أعلى N% حسب ERank" هي القاعدة الصحيحة لمجموعة بيانات محددة قد تحتاج إلى فحص خاص بها، وليس نسخاً أعمى لأي نسبة مئوية نجحت في الورقة البحثية. تعامل مع ERank كمرشح أول قوي ورخيص يستحق الاختبار على بياناتك الخاصة، وليس كوصفة ثابتة.