Un estudio publicado en arXiv evalúa el despliegue local de nueve sistemas de reconocimiento de entidades nombradas. La comparación abarca desde spaCy y GLiNER hasta modelos generativos como Qwen3 y DeepSeek-R1. Se midieron precisión, latencia y validez de salida. Los resultados muestran que los encoders igualan o superan a los generativos con una fracción de su tamaño y latencias de milisegundos.
Precisión, latencia y validez de salida en pipelines de etiquetado 🧠
Los encoders logran estos resultados con una novena o vigesimocuarta parte del tamaño de los modelos generativos. Su latencia se mantiene en milisegundos y no producen salidas malformadas. En cambio, los generativos pequeños emiten hasta un 27 por ciento de resultados inválidos. Para un profesional del sector, esto implica que pipelines de etiquetado, metadatos y organización de assets pueden ejecutarse en local sin depender de una API. La confianza se calibra mediante temperature scaling. La conclusión del estudio es que la eficiencia y fiabilidad de los encoders los hace preferibles para producción.
La carrera por el modelo gigante se topa con el encoder de barrio 🏘️
Mientras la industria celebra cada nuevo modelo generativo con miles de millones de parámetros, un encoder pequeño resuelve la tarea en milisegundos y sin errores de formato. Es como contratar a un ejército de becarios para mover una caja cuando el vecino del quinto ya tiene una carretilla. Los generativos pequeños, entretanto, fallan en una de cada cuatro respuestas. Quizá la próxima revolución no sea más grande, sino más aburrida y fiable.