السبب الخفي وراء تعثر تقنية التعرف الضوئي على الحروف مع النصوص المنحنية والمائلة
Based on: 2D Rotary Position Embedding for Scene Text Recognition with Transformers — Zobeir Raisi
وجه هاتفك نحو زجاجة شامبو وحاول قراءة قائمة المكونات الملفوفة حول منحنى الزجاجة. تفعل عيناك ذلك دون تفكير: تتتبع الحروف بينما تنحني وتميل وتصغر حجمها نحو الحافة. لا تفعل معظم نماذج التعرف الضوئي على الحروف (OCR) هذا الأمر بنفس الكفاءة، ويوفر مسودة بحثية جديدة تفسيرًا محددًا جدًا للسبب: لم يُخبر النماذج أبدًا أن الصور لها بعدين.
يبدو هذا أمرًا سخيفًا لنظام مُصمم لمعالجة الصور. لكن التفسير، بمجرد رؤيته، هو أحد تلك اللحظات التي تجعلك تقول "طبعًا" وتتعجب من كيف بقي هذا الأمر غير ملحوظ لفترة طويلة.

لماذا تُعدُّ الخطوط المستقيمة افتراضاً سيئاً للنص في العالم الحقيقي
تتمثل مهمة التعرف على النص في المشهد (Scene Text Recognition أو STR) تحديداً في قراءة النص الموجود داخل صورة للعالم الحقيقي، وليس ضمن مسح ضوئي نظيف. يشمل ذلك لافتات الشوارع، وعلامات المنتجات، ولوحات الأرقام، وقوائم المطاعم المصورة في إضاءة سيئة. تختلف هذه المشكلة عن قراءة ملف PDF أو مستند Word، لأن النص نفسه يتشوه بفعل فيزياء العالم: فهو ينحني حول الزجاجات، ويُصور بزاوية، ويميل عندما يلتقط شخص صورة لافتة دون محاذاة الكاميرا بشكل صحيح، كما أن المنظور يمدد الأحرف التي تكون أبعد عدسة.
تعتمد أنظمة STR الحديثة في الغالب على نماذج Transformers، وهي نفس البنية الأساسية وراء نماذج اللغة الكبيرة. يقوم المشفر (encoder) بفحص الصورة وتقسيمها إلى شبكة من البقع الصغيرة، ثم يقوم المفكك (decoder) بقراءة الأحرف واحداً تلو الآخر، تماماً كما يتنبأ نموذج اللغة بالكلمة التالية. يعمل هذا النهج بشكل جيد مع النص المنتظم والمواجه للأمام، لكنه يصبح غير مستقر في اللحظة التي يتوقف فيها النص عن التصرف كخط مستقيم.
إليك الجزء الذي قد يُغفل بسهولة: لا تمتلك نماذج Transformers أي إحساس مدمج بالموقع. فإذا قدمت لنموذج Transformer مجموعة عشوائية من بقع الصورة دون معلومات موقع، فلن يتمكن من التمييز بين الأعلى والأسفل أو اليسار واليمين. تحتاج كل نماذج Transformers إلى نوع من الترميز الموضعي (positional encoding) يُضاف إليها، ويبدو أن اختيار هذا الترميز له أهمية أكبر مما يفترض معظم الناس.
كيف تعرف المحولات أين توجد الأشياء، وأين تنكسر الاختصار
طريقة الترميز الوضعي المستعارة من نماذج اللغة تسمى RoPE، اختصار لـ Rotary Position Embedding. تُستخدم في معظم نماذج اللغة المفتوحة الحديثة، بما في ذلك LLaMA. الفكرة هي تدوير متجه كل رمز (token) بمقدار مرتبط بموقعه في التسلسل، بحيث يعكس الناتج بشكل طبيعي المسافة بين الرمزَين عند مقارنتهما أثناء الانتباه (attention). فكر في ذلك مثل عقرب الساعة: قم بتدويره بمقدار ثابت في كل خطوة، وستخبرك الزاوية بين أي عقربين عن المسافة بينهما دون الحاجة إلى تخزين تلك المسافة صراحةً.
صُمم RoPE للتسلسلات أحادية البعد (1D): الكلمات في جملة، واحدة تلو الأخرى. الصور ثنائية الأبعاد (2D)، لذا طور الباحثون امتدادًا يُدعى axial 2D-RoPE لمحولات الرؤية (vision Transformers)، والذي يقسم الدوران إلى جزأين مستقلين: أحدهما يتتبع موقع الصف، والآخر يتتبع موقع العمود.
يحتوي هذا الامتداد على افتراضين مُدمجين منذ البداية، وتجادل هذه الورقة بأن كليهما ينكسر عند التعامل مع نص المشاهد (scene text).
الافتراض الأول هو أن الصور مربعة تقريبًا. قسّم ميزانية الدوران بالتساوي بين الصفوف والأعمدة، وهذا جيد لصورة وجه أو منظر طبيعي. لكن كلمة مقطوعة مثل "STOP" قد تكون أوسع بأربعة أضعاف من ارتفاعها. إن إنفاق نصف دقة الترميز الوضعي على الارتفاع عندما لا يحدث عمليًا أي تمييز عمودي، يعني حرمان البعد الذي يهم حقًا: البعد الذي يحمل الترتيب من اليسار إلى اليمين للحروف.
الافتراض الثاني هو مكان تطبيق الترميز. لم تعمل أعمال 2D-RoPE السابقة على تدوير المتجهات إلا داخل المشفر (encoder)، حيث تنتبه أجزاء الصورة (image patches) لبعضها البعض. لكن نماذج التعرف على النص في المشاهد (STR) هي من نوع مشفر-فك تشفير (encoder-decoder): يقوم فك التشفير (decoder) بإنشاء الأحرف واحدًا تلو الآخر، وفي كل خطوة، ينظر إلى الوراء في شبكة أجزاء الصورة الخاصة بالمشفر من خلال ما يُسمى بالانتباه المتقاطع (cross-attention). هذه هي اللحظة التي يقرر فيها النموذج "بناءً على الحروف التي قرأتها بالفعل، أين يجب أن أنظر في الصورة تاليًا؟". إذا لم يمس الحساب الوضعي هذه الخطوة، فإن فك التشفير يتنقل في صورة ثنائية الأبعاد بدون بوصلة. عليه أن يعتمد على علامات موقع عامة مُتعلمة لا تحمل أي مفهوم حقيقي لـ "أعلى"، "أسفل"، "يسار"، أو "يمين".
إصلاحان، دون إضافة أي معاملات جديدة
يتناول الإصلاح المقترح في الورقة البحثية كلا الفجوتين مباشرة، والجانب الذي أجد فيه جاذبية حقيقية هو أن لا تغيير من التغييرين يضيف أي أوزان جديدة إلى النموذج. فليس الأمر يتعلق بشبكة أكبر أو وحدة جديدة مُلحقة. بل هو تغيير في طريقة تكوين حسابات الدوران الموجودة مسبقاً.
يقوم الإصلاح الأول بتخصيص أبعاد الدوران بشكل غير متساوٍ، بما يتطابق مع نسبة أبعاد (aspect ratio) القطعة النصية الفعلية بدلاً من تقسيمها بنسبة 50/50. فالحصول على قطعة نصية عريضة وقصيرة يمنح دقة موضعية أعلى على طول عرضها وأقل على طول ارتفاعها، بما يتوافق مع المكان الفعلي الذي توجد فيه المعلومات.
يمتد الإصلاح الثاني نفس اقتران الدوران إلى الانتباه المتقاطع (cross-attention)، مما يمنح استعلامات المُفكك (decoder) وشبكة المُشفّر ثنائية الأبعاد إطاراً مرجعياً هندسياً مشتركاً. عملياً، هذا يعني أن خطوة فك التشفير يمكنها ربط "الحرف التالي الذي أنا على وشك التنبؤ به" بـ "منطقة الصورة التي تلي الحرف الأخير مباشرة، متبعةً منحنى النص"، بدلاً من معالجة الصورة بأكملها ككتلة غير متمايزة من الرموز (tokens).
العروض المجانية بهذه الخصوصية نادرة في تعلم الآلة، لذا سأرغب في رؤية إعادة إنتاج الإصلاح خارج تجارب المؤلفين أنفسهم قبل تصديقي الكامل له. لكن النظرية متماسكة، وهي تتطابق مع نمط فشل سيعرفه على الفور أي شخص حاول بالفعل التعرف الضوئي على الحروف (OCR) لصورة منتج حقيقية.

بروتوكول مصمم لمقاومة التفكير التأملي
ما يميز هذه الورقة عن النتائج النموذجية التي تنص على "ترميزنا الموضعي يحقق أرقاماً أفضل" هو العناية البالغة التي بُذلت لإثبات أن التحسن يأتي من المصدر الذي يدعيه المؤلفون، وليس من تأثير جانبي غير مرتبط بإعادة التدريب.
ثلاث فحوصات تؤدي هذا الدور. أولاً، زوج من التجارب الاستئصالية (ablation) الخاضعة للرقابة: الحفاظ على تطابق النموذج بأكمله واستبدال وحدة الترميز الموضعي فقط، ومقارنة ترميز RoPE أحادي البعد (1D)، والترميز الجيبي ثنائي البعد (2D)، والترميز القابل للتعلم ثنائي البعد (2D)، وطريقتهم الجديدة 2D-RoPE-STR ضد بعضها البعض. ذلك يعزل المتغير الوحيد الذي تغير.
ثانياً، تحليل عدم الاتفاق على مستوى الصورة. بدلاً من الإبلاغ عن رقم دقة إجمالي واحد (والذي قد يخفي قدرًا كبيرًا مما يكشف، إذ يمكن للمعدل المسطح أن يغطي مكاسب كبيرة في بعض الصور تلغيها خسائر في أخرى)، ينظر المؤلفون إلى الصور المحددة التي تتحول من خاطئة إلى صحيحة، وتلك التي تتحول في الاتجاه المعاكس، بين خط الأساس والطريقة الجديدة. هذا اختبار أصعب للتلاعب به، لأنه يجبر المؤلفين على إظهار أن مكاسبهم تتركز في مكان محدد بدلاً من أن تكون منتشرة بشكل رقيق وغير متساوٍ.
ثالثاً، تصور الانتباه (attention visualization): رسم بياني حرفي لمواقع أوزان انتباه المشفر (encoder) أثناء فك التشفير، للتحقق مما إذا كان النموذج يتتبع بصرياً منحنى النص بالطريقة المتوقعة، بدلاً من الحظ الجيد في معيار تقييم.
أين تظهر المكاسب فعلياً
المعايير الستة المستخدمة هنا، وهي IIIT5K وSVT وICDAR 2013 وICDAR 2015 وCUTE80 وSVTP، تُعد مجموعة الاختبار القياسية لهذا الفرع من المجال. الثلاثة الأولى تتعامل في الغالب مع نصوص أمامية أفقية ومباشرة. أما الثلاثة الأخيرة فهي التي يستخدمها الباحثون خصيصاً لاختبار ضغط النصوص غير المنتظمة: فـ ICDAR 2015 يحتوي على الكثير من اللافتات المائلة وذات الجودة المنخفضة، وCUTE80 مليء بالنصوص المنحنية، بينما يعتمد SVTP بشكل كبير على التشويه المنظوري.
وفقاً للملخص، تتركز التحسينات تقريباً بالكامل على المجموعة الثانية الأصعب: التخطيطات المنحنية، والدوارة، والمشوّهة منظورياً، حيث ينحرف ترتيب القراءة عن خط أفقي مستقيم. هذه قصة متماسكة وليست عشوائية. إنها تشير إلى أن الحل يعمل بالضبط كما توقع المنطق الكامن وراءه، بدلاً من دفع كل معيار للأعلى بهامش صغير ومتشابه كما تميل العديد من أوراق "ترميز المواقع الأفضل" إلى القيام به.
سأشير إلى التحذير الواضح: ملخص arXiv لا ينشر جداول الدقة الفعلية، ولم أتمكن من استخراج نسب التحسين المحددة من القائمة نفسها. الورقة حالياً قيد المراجعة في المجلة الدولية لتحليل الوثائق والاعتراف بها (International Journal on Document Analysis and Recognition)، لذا تعاملوا مع هذا كنتيجة واعدة ومبررة آلياً بشكل جيد وليس كحقيقة مسلم بها حتى تصبح الأرقام الكاملة متاحة ويعيد فريق خارجي خارج الفريق الأصلي إنتاجها.
ما لا يزال غير مثبت
هناك بعض الجوانب التي تستحق التأمل قبل الاندفاع في الحماس.
هذا بحث من تأليف باحث واحد لا يزال قيد المراجعة الأقران ولم يتم قبوله بعد. وهذا لا يعني أنه خاطئ، لكنه يعني أن التدقيق المجتمعي المعتاد (مثل إعادة الإنتاج، والمراجعة النقدية، ومحاولات الآخرين لكشف ثغراته على مجموعات بيانات مختلفة) لم يحدث بعد.
جميع الاختبارات الستة هي اختبارات أكاديمية، وتركز على اللغة الإنجليزية، وتمت تجميعها بين عامي 2003 و2016 تقريباً. وهي تمثل مؤشراً معقولاً لـ "النص في الصور"، لكنها لا تعادل تماماً التنوع الهائل في المستندات التي تتعامل معها خطوط إنتاج الـ OCR الفعلية: مثل النصوص متعددة الحروف، والضوضاء الناتجة عن كاميرات الهواتف، والإضاءة الخافتة، والضبابية الناتجة عن الحركة، والفواتير المصورة في الساعة الثانية صباحاً بهاتف رديء الجودة. إن ما إذا كان هذا التصحيح في الترميز الموضعي (positional encoding) سينتقل بشكل عام إلى هذا الفوضى هو سؤال مفتوح لا يدعي البحث الإجابة عليه.
من الجدير أيضاً بالدقة فيما يتعلق بنطاق البحث. فهو يستهدف خطوة التعرف (recognition step)، أي قراءة الأحرف داخل منطقة مقطوعة (crop) حددتها أداة كشف نص سابقة على أنها تحتوي على نص. ولا يتطرق البحث إلى تخطيط المستند، أو هيكل الجداول، أو ترتيب القراءة للصفحة الكاملة. إذا كانت مشكلة الـ OCR لديك تتعلق بفواتير وعقود ممسوحة ضوئياً، فإن هذا التصحيح يستهدف نمط فشل مختلف عن تلك التي تواجهك عادة في مثل هذه الحالات.
لماذا يهم ذلك أي شخص يبني أو يختار نظام قراءة ضوئية للنصوص (OCR)
إذا كانت معظم البيانات التي تُدخلها إلى نظام القراءة الضوئية هي وثائق نظيفة ومواجهة مباشرة (مثل الفواتير، والعقود الممسوحة ضوئياً، والنماذج)، فلا تتوقع أن يؤدي هذا التعديل المحدد إلى تحسين دقتك بشكل ملحوظ. تشير نتائج الورقة البحثية نفسها إلى أن المكاسب تتجمع حول التخطيطات غير المنتظمة، والوثائق النظيفة، بحكم تعريفها تقريباً، ليست غير منتظمة.
ولكن إذا كان منتجك يتعامل مع صور للعالم المادي، مثل ملصقات المنتجات، ولوحات الشوارع، والتغليف، والإيصالات المصورة بزاوية على الهاتف، فهذا يستهدف بالضبط نمط الفشل الذي يميل إلى إحراج أنظمة القراءة الضوئية في العروض التوضيحية: النصوص التي تنحني، أو تميل، أو تتمدد بسبب المنظور. هذه فئة حقيقية وشائعة من المدخلات، وعبارة "النموذج ليس لديه إحساس ثنائي الأبعاد بالموقع حرفياً" هي تفسير مُرضٍ وقابل للإصلاح لسبب استمرار فشله هناك. ومن الجدير بالذكر أن طبيعة الكتابة العربية، مع خطها المتصل واتجاهها من اليمين إلى اليسار وأشكال الحروف الحساسة للسياق والروابط الاختيارية، تضيف طبقة إضافية من التعقيد لهذه التحديات البصرية.
الجزء الذي يجب أن يهم أكثر أي شخص يقوم بتقييم المحركات هو ادعاء "عدم وجود معلمات جديدة". إذا ثبت صحت هذا الادعاء تحت الاختبار المستقل، فهذا يعني أن التعامل الأفضل مع النصوص المشوهة لا يجب أن يأتي مع نموذج أكبر وأبطأ وأكثر تكلفة مُضافاً إليه. هذه خاصية مفيدة حقاً إذا كنت تحاول الحفاظ على تكاليف الاستدلال معقولة بينما تطارد الدقة في الصور الفوضوية للعالم الحقيقي. في الوقت الحالي، الخطوة المعقولة هي مراقبة هذا المسار من العمل بدلاً من التصرف عليه فوراً: انتظر جداول الورقة الكاملة، وانتظر التكرارات المستقلة، واستمر في الحكم على محركات القراءة الضوئية بشكل أساسي بناءً على أدائها مع تحميلات المستخدمين الفعلية. تخبرك المعايير المرجعية أين تبحث. لكنها لا تحل محل الاختبار ضد الصور الغريبة والمنحنية وسوء الإضاءة التي سيرسلها عملاؤك فعلياً.