Un reciente informe de la consultora KPMG sobre inteligencia artificial ha generado controversia tras descubrirse que contenía citas y referencias falsas generadas por IA. De 45 citas, solo 5 eran reales. Este fenómeno, conocido como vibe citing, demuestra que incluso fuentes influyentes pueden difundir información poco fiable. La lección es clara: verificar las fuentes es una tarea que no podemos delegar ciegamente.
El riesgo técnico de delegar la verificación en modelos generativos 🤖
El vibe citing ilustra un fallo recurrente en los modelos de lenguaje: su tendencia a alucinar datos para ofrecer respuestas coherentes. Cuando se les pide generar referencias, priorizan la fluidez sobre la precisión, inventando autores y títulos que suenan verosímiles. Para desarrolladores, esto subraya la necesidad de implementar sistemas de validación cruzada y no asumir que una salida bien redactada es correcta. La confianza en la IA requiere capas de verificación humana.
De la consultora al meme: todos podemos ser expertos 🍺
Lo curioso es que ahora, si una IA te dice que un estudio de 2023 afirma que los pingüinos vuelan, igual lo citas en tu tesis. El vibe citing nos iguala a todos: desde una consultora global hasta el cuñado del bar, todos podemos inventar fuentes con la misma soltura. La diferencia es que KPMG cobra por ello, mientras que tu cuñado solo cobra una cerveza. Al final, lo único fiable es revisar cada referencia como si fuera un rumor de pasillo.