Skip to content
← Blog

El especialista en OCR que nunca se entrenó para el trabajo

Based on: Multi-Expert Routing for Multi-Domain Low-Resource OCR: A Manchu Case Study — Zhan Chen, Jiqiao Ma, Chih-wen Kuo

El hallazgo que me hizo sentarme en alerta: los investigadores construyeron un sistema que selecciona el mejor modelo de OCR para una página dada de escritura manuscrita en manchú del siglo XVII, y en dos de cada tres ocasiones, el modelo elegido nunca había sido entrenado específicamente para leer ese tipo de escritura. Se volvió competente en ello como un efecto secundario del entrenamiento para otra tarea completamente distinta, y nadie lo supo hasta que lo verificaron.

Este es el tipo de resultado que suena como un informe de error hasta que lees el artículo (arXiv 2607.14041, de Zhan Chen, Jiqiao Ma y Chih-wen Kuo) y te das cuenta de que en realidad es una forma inteligente de abordar un problema que los equipos de OCR enfrentan constantemente: falta de datos etiquetados y documentos que no tienen todos el mismo aspecto.

Manchu script manuscript document

Por qué el manchú es una pesadilla para el OCR

El manchú es la lengua de la corte de la dinastía Qing, escrita de arriba abajo en un alfabeto vertical derivado del script mongol. Si estás construyendo un sistema de OCR para este idioma, heredas dos problemas a la vez.

En primer lugar, es un idioma con pocos recursos. No existe una avalancha de texto manchú etiquetado como la que hay para el inglés o el chino. Cada transcripción a nivel de carácter utilizada para el entrenamiento o la evaluación tuvo que ser producida por alguien que realmente pueda leer manchú, lo cual es un grupo reducido de personas.

En segundo lugar, y esta es la parte que lo convierte en una buena prueba de estrés, los documentos manchúes presentan estilos de escritura a mano muy diferentes dependiendo de quién los escribió y con qué propósito. Los trabajos de investigación se centran en tres: script regular (cuidadoso, formal, más cercano a la imprenta), script corrido (más rápido, más fluido, las letras se difuminan entre sí) y la "escritura cancilleril" semicursiva utilizada específicamente en los memoriales palaciegos, los informes que los funcionarios Qing enviaban al emperador. Un modelo entrenado para leer uno de estos puede fallar con otro, de la misma manera que una persona que lee inglés impreso claro podría tener dificultades con la receta manuscrita de un médico.

Al combinar estos dos problemas, obtenemos el desafío real: necesitas un sistema que maneje bien tres estilos de escritura visualmente distintos, pero no tienes suficientes ejemplos etiquetados de ningún estilo individual para simplemente añadir más datos al problema.

La idea central: dejar de entrenar un solo modelo y empezar a enrutar hacia el adecuado

La estrategia habitual cuando no se dispone de suficientes datos para un gran modelo general es el ajuste fino (fine-tuning): se toma un modelo preentrenado y se sigue actualizando con los datos objetivo, guardando puntos de control (checkpoints) a lo largo del proceso. Normalmente, se descartan todos los puntos de control intermedios y se conserva únicamente el final.

La aportación clave de este artículo es que esos puntos de control descartados no son basura. Durante el ajuste fino iterativo, un modelo atraviesa diferentes etapas, y en algún momento de ese proceso puede volverse excepcionalmente bueno para manejar una peculiaridad específica de los datos, aunque ese no fuera el objetivo del entrenamiento. Los autores mantienen un conjunto de estos puntos de control y los tratan como especialistas de dominio.

Luego construyen un enrutador ligero: un pequeño clasificador de imágenes que analiza una página y predice a cuál de los tres estilos de escritura corresponde (regular, running o chancery memorial), y envía esa página al punto de control del conjunto que es el experto conocido para ese estilo. Si el conjunto no tiene un buen especialista para un dominio, entrenan uno y lo añaden.

Una analogía adecuada es la triaje hospitalaria. No se desea que un solo médico atienda a todos los pacientes. Se necesita una enfermera en la recepción que pueda echar un vistazo a un paciente y saber a qué especialista del pasillo enviarlo. Lo inusual aquí es que algunos de esos "especialistas" nunca fueron entrenados oficialmente en su especialidad. Adquirieron la habilidad como un subproducto del entrenamiento para otra cosa, y el sistema lo descubrió mediante pruebas, no preguntando para qué estaban supuestamente diseñados.

Qué midieron y por qué la CER es el número que importa

La métrica principal aquí es la CER (tasa de error de caracteres): el porcentaje de caracteres que el sistema de OCR clasifica incorrectamente en comparación con una transcripción verificada por humanos. Cuanto menor, mejor. En los flujos de trabajo de OCR maduros, la diferencia entre un modelo bueno y uno mediocre a menudo se reduce a menos de un punto porcentual de CER, que es exactamente el tipo de resultado que es fácil de falsificar con un conjunto de prueba pequeño o seleccionado de forma sesgada. Este artículo utiliza tres conjuntos de prueba congelados, uno por estilo de escritura, para mantener la comparación consistente.

Los resultados del sistema enrutado, por estilo:

  • Escritura regular: 0,30 % de CER
  • Memorias palaciegas (escritura de cancillería): 1,57 % de CER
  • Escritura corrida: 4,83 % de CER

Dos aspectos destacan. En primer lugar, estos números coinciden con lo que se obtendría si ya se conociera el dominio correcto para cada página y se enrutara manualmente al especialista más adecuado. En otras palabras, el enrutador automático no pierde precisión al adivinar mal. Rinde como si se le hubiera entregado la clave de respuestas.

En segundo lugar, la escritura corrida es claramente la más difícil de las tres, con un margen amplio, con una tasa de error más de 16 veces superior a la de la escritura regular. Esto se ajusta al patrón general del OCR, donde los mayores desafíos casi siempre provienen de la escritura más libre e informal, no de la más ordenada.

El propio enrutador, el pequeño clasificador que decide a dónde va cada página, alcanzó una precisión del 99,3 % a nivel de página para identificar el estilo de escritura correcto. Es un número sólido para lo que es una tarea de clasificación visual genuinamente complicada: distinguir entre tres variantes de una escritura que la mayoría de las personas vivas hoy en día no pueden leer en absoluto, y mucho menos distinguir de un vistazo.

17th century Qing dynasty official seal

El hallazgo del experto accidental y por qué es la verdadera noticia

Volviendo al detalle que abrió esta pieza. El artículo informa que, de los tres especialistas en los que el enrutador terminó confiando, solo el experto en escritura cursiva (running script) era un punto de control originalmente entrenado con la escritura cursiva como su objetivo previsto. Los otros dos, los que manejaban la escritura regular y los memoriales palaciegos, provenían de puntos de control que eran productos del proceso de ajuste fino iterativo dirigido a objetivos diferentes.

Esto importa más de lo que podría parecer a primera vista. Sugiere que, en un entorno de recursos limitados, si un modelo se vuelve bueno en un dominio particular no es totalmente predecible a partir de lo que planeaste entrenarlo. La dinámica del entrenamiento crea efectos secundarios, y algunos de esos efectos secundarios son especialistas útiles que nunca pensarías construir a propósito. La implicación práctica es que si tienes un montón de puntos de control intermedios de ejecuciones anteriores de ajuste fino, tratarlos como desechables podría significar tirar por la borda especialistas que ya pagaste para crear.

También reencuadra lo que "el enrutador" está haciendo realmente. No solo está dirigiendo el tráfico. Está realizando una especie de audición a ciegas, permitiendo que un clasificador ligero descubra cuáles de tus activos existentes son secretamente buenos para un trabajo que nadie les asignó, y luego actuando sobre ese descubrimiento en lugar de sobre suposiciones sobre lo que cada punto de control era "para".

Por qué importa si estás construyendo o comprando OCR

Si procesas documentos con OCR a cualquier volumen real, es probable que ya lidies con una versión de este problema, solo que sin el contexto de manuscritos históricos. Contratos escaneados, formularios manuscritos, recibos descoloridos y PDFs de calidad mixta son todos dominios visuales diferentes que compiten por la atención de un modelo, de la misma manera que la escritura regular, la cursiva y la caligrafía cancilleresca compiten aquí.

La lección no es "ir a entrenar un especialista en manchú". Es que un único modelo OCR "mejor", el tipo que elegirías de un ranking, a menudo es el enfoque equivocado. Un enrutador que envíe diferentes tipos de documentos a diferentes especialistas, cada uno ajustado o simplemente descubierto como fuerte en ese tipo, puede superar a cualquier modelo único utilizado de manera generalizada. Esa es la misma lógica detrás de por qué un servicio que prueba varios motores OCR por documento y conserva el mejor resultado tiende a superar a apostar por un solo motor cada vez.

También es una razón para ser menos rápido en eliminar puntos de control (checkpoints) de modelos antiguos. Si alguna vez has ajustado finamente un modelo a través de varias iteraciones y solo conservaste la versión final, este artículo es un argumento para conservar los intermedios y probar periódicamente si alguno de ellos resultó ser silenciosamente excelente en algo que no habías planeado. El costo de almacenar un checkpoint es bajo. El costo de volver a entrenar un especialista que ya tenías y desechaste no lo es.

Los límites honestos de este enfoque

Se trata de un estudio pequeño y cuidadosamente delimitado, no de una receta de propósito general, y el artículo no lo exagera.

Tres dominios es un número manejable para que un enrutador los distinga. No está claro cómo se comportaría con diez o veinte tipos de documentos visualmente distintos, donde un clasificador de páginas ligero podría empezar a cometer más errores de enrutamiento, y donde las decisiones de enrutamiento incorrectas se vuelven más costosas porque hay más formas de equivocarse.

El sistema aún necesita una solución de respaldo: cuando el grupo de checkpoints no tiene ningún especialista plausible para un dominio, alguien tiene que entrenar un nuevo experto, lo que significa que alguien aún tiene que producir datos etiquetados para ese dominio. El enfoque reduce la frecuencia con la que se necesitan datos de entrenamiento frescos, pero no elimina la necesidad de ellos.

El enrutamiento aquí ocurre a nivel de página, no línea por línea ni palabra por palabra. Una sola página que mezcle dos estilos de escritura (no es infrecuente en documentos históricos reales, donde un escriba podría cambiar de mano a mitad de página) podría confundir a un enrutador construido alrededor de una clasificación por página.

Y esto es específico del manchu: un script con diferencias estructurales claras entre sus variantes de estilo. Los dominios que se difuminan más entre sí (por ejemplo, la escritura cursiva de varias personas dentro de la misma escuela general de caligrafía) podrían ser mucho más difíciles de distinguir para un clasificador ligero, lo cual socavaría toda la premisa del enrutamiento confiable.

Nada de eso borra el resultado central. El artículo muestra una forma genuinamente ingeniosa de exprimir más valor de un grupo de checkpoints que ya tienes, y un recordatorio de que "crear un solo modelo realmente bueno" no siempre es la pregunta correcta. A veces, la pregunta correcta es "cuál de las cosas que ya he construido es secretamente la mejor para esto", y construir un sistema para realmente averiguarlo.