Los asistentes de inteligencia artificial como ChatGPT o Gemini tienen un punto ciego peligroso: ignoran lo que ven. En pruebas recientes, estos sistemas persistieron en sus errores incluso cuando se les mostraron vídeos que demostraban su fallo. Para cualquier persona que busque información científica o médica, esto es una advertencia clara: no asumas que tienen razón solo porque suenan seguros.
Ceguera selectiva en el código 🤖
El problema técnico radica en cómo estos modelos procesan la información. Están entrenados con datos estáticos y no cuentan con un mecanismo para actualizar su conocimiento en tiempo real. Cuando se les presenta un vídeo que contradice su respuesta, no lo interpretan como una corrección, sino como un dato conflictivo que ignoran. Así, repiten el error sin aprender. Esto se debe a su arquitectura: priorizan patrones estadísticos previos sobre la evidencia nueva que reciben.
El alumno que nunca admite su error 🧠
Es como ese compañero de clase que asegura que 2+2 son 5, y cuando le pones cuatro manzanas delante, dice que las manzanas mienten. Los chatbots son expertos en excusas digitales: si el vídeo muestra que se equivocan, ellos responden que el vídeo está mal o que no es relevante. Al menos un humano, después de ver la evidencia, pone cara de tonto y corrige. Estos programas, no. Así que ya sabes: si un chatbot te dice que el cielo es verde, sal a mirar antes de comprar gafas nuevas. 😉