Los chatbots de IA propagan desinformación en búsquedas en tiempo real 🤖

Un nuevo frente de desinformación emerge con asistentes de IA como ChatGPT. Al realizar búsquedas web en vivo para responder consultas poco comunes, estos sistemas pueden incorporar datos falsos de páginas manipuladas. El problema radica en que presentan la información como un hecho consolidado, sin ofrecer el contraste de fuentes de un buscador tradicional, lo que facilita la propagación de bulos.

El fallo en el mecanismo de RAG y la validación de fuentes ⚠️

Técnicamente, el problema se agrava en sistemas que usan RAG (Recuperación-Aumentación Generativa). Cuando la consulta está fuera del conocimiento base del modelo, este recupera fragmentos de la web. Sin un filtro robusto que valide la autoridad o veracidad de la fuente, un texto bien redactado en un sitio con apariencia seria se integra como contexto. La respuesta generada a partir de ese contexto adquiere un tono factual, sin matices ni advertencias sobre su posible falsedad.

Tu nuevo becario digital cree todo lo que lee en internet 😅

Es como tener un practicante demasiado entusiasta que, para impresionar, devora el primer artículo que encuentra en un blog cualquiera y te lo presenta como la verdad absoluta de la industria. Le preguntas sobre un rumor de hardware y, con total solemnidad, te cita los hechos de una web creada ayer. La ironía es que confiamos en su aparente objetividad, cuando en realidad tiene la credulidad de alguien que acaba de descubrir la red. Un paso adelante en tecnología, dos pasos atrás en sentido común.