NuMind presenta NuExtract, un modelo de lenguaje especializado en convertir texto en datos JSON estructurados. La innovación principal reside en la creación de modelos compactos (de 0,5 mil millones a 7 mil millones de parámetros) que igualan o superan el rendimiento de LLMs genéricos cien veces más grandes.

El modelo destaca en la extracción de información compleja a partir de documentos variados, organizando los datos de forma jerárquica. Los casos de uso típicos incluyen el análisis de historiales médicos, documentos legales e informes financieros. NuExtract puede funcionar en modo zero-shot para tareas generales o ser afinado (fine-tuned) para problemas empresariales específicos.

La metodología de creación del conjunto de datos es un elemento clave del éxito. El equipo aprovechó 300.000 textos en inglés del conjunto de datos C4, utilizando Llama 3 70B para generar plantillas de extracción y anotaciones. Este proceso produjo 50.000 ejemplos de entrenamiento de calidad, con árboles de extracción que alcanzan hasta 9 niveles de profundidad jerárquica.

Los resultados de rendimiento demuestran la eficacia del enfoque. NuExtract-tiny supera a GPT-3.5 a pesar de ser 100 veces más pequeño. La versión estándar de NuExtract supera a Llama3-70B siendo 35 veces más compacta. NuExtract-large logra la equivalencia con GPT-4o con un factor de reducción de tamaño de 100.

Estos resultados abren ventajas prácticas considerables en comparación con las alternativas propietarias. Los costos de inferencia se reducen drásticamente gracias al tamaño compacto de los modelos. El despliegue local o privado se vuelve viable, cumpliendo con los requisitos de confidencialidad de numerosas organizaciones. La capacidad de fine-tuning facilita la adaptación del modelo a dominios específicos sin experiencia profunda en ML.

El modelo se distribuye bajo licencia MIT, lo que permite su uso libre en contextos comerciales y de investigación. Este enfoque de código abierto posiciona a NuExtract como una alternativa creíble frente a las APIs de extracción propietarias, en particular para organizaciones preocupadas por controlar sus costos y sus datos.

El artículo ilustra una tendencia importante: los modelos especializados de tamaño modesto pueden rivalizar con los gigantes generalistas en tareas específicas, abriendo el camino a despliegues más económicos y soberanos.