Une étude publiée sur arXiv évalue le déploiement local de neuf systèmes de reconnaissance d'entités nommées. La comparaison s'étend de spaCy et GLiNER à des modèles génératifs comme Qwen3 et DeepSeek-R1. La précision, la latence et la validité de sortie ont été mesurées. Les résultats montrent que les encodeurs égalent ou surpassent les génératifs avec une fraction de leur taille et des latences de l'ordre de la milliseconde.
Précision, latence et validité de sortie dans les pipelines d'étiquetage 🧠
Les encodeurs atteignent ces résultats avec un neuvième ou un vingt-quatrième de la taille des modèles génératifs. Leur latence reste de l'ordre de la milliseconde et ils ne produisent pas de sorties malformées. En revanche, les petits génératifs émettent jusqu'à 27 pour cent de résultats invalides. Pour un professionnel du secteur, cela implique que les pipelines d'étiquetage, de métadonnées et d'organisation d'assets peuvent s'exécuter en local sans dépendre d'une API. La confiance est calibrée par temperature scaling. La conclusion de l'étude est que l'efficacité et la fiabilité des encodeurs les rendent préférables pour la production.
La course au modèle géant se heurte à l'encodeur de quartier 🏘️
Alors que l'industrie célèbre chaque nouveau modèle génératif avec des milliards de paramètres, un petit encodeur résout la tâche en millisecondes et sans erreurs de format. C'est comme engager une armée de stagiaires pour déplacer une caisse alors que le voisin du cinquième étage a déjà une brouette. Les petits génératifs, quant à eux, échouent dans une réponse sur quatre. Peut-être que la prochaine révolution ne sera pas plus grande, mais plus ennuyeuse et fiable.