Un periodista sometió a la inteligencia artificial a una prueba sencilla: escribir 30 veces el mismo texto en Google. El resultado fue preocupante. En diez ocasiones, la IA ofreció significados distintos al correcto, y además fue incapaz de relacionar esos significados entre sí. Para la ciudadanía, esto implica que la IA puede inventar información clave, afectando decisiones sobre dinero, salud o servicios básicos.
El problema técnico de la coherencia en los modelos de lenguaje 🤖
Los modelos de lenguaje actuales funcionan con patrones estadísticos, no con comprensión real del contenido. Cuando se les pide repetir una tarea, priorizan la variación sintáctica sobre la precisión semántica. Esto se debe a que su entrenamiento se basa en predecir la siguiente palabra probable, no en verificar hechos. El fallo al relacionar significados entre sí revela una limitación estructural: la IA carece de un modelo interno del mundo que le permita mantener coherencia lógica a lo largo de múltiples respuestas.
La IA y su talento para la improvisación creativa no solicitada 🎭
Vamos a ver, que la IA invente significados nuevos cada tres repeticiones no es un error, es un acto artístico. Si le pides que te explique qué es un contrato de alquiler, igual te suelta una receta de gazpacho con cláusulas legales. Y ojo, que luego te cobran intereses por el tomate. Lo peor no es que falle, es que lo hace con una seguridad pasmosa, como ese compañero de trabajo que siempre tiene razón aunque no tenga ni idea de lo que habla.