La consultora KPMG ha tenido que retirar varios informes de sus archivos tras descubrir que fueron elaborados con inteligencia artificial generativa. El problema no fue la herramienta, sino que la IA inventó datos, cifras y referencias que no existían. Un fallo que expone los riesgos de delegar sin supervisión en estos sistemas.
El riesgo de delegar análisis en modelos generativos 🚨
Los modelos de lenguaje como GPT tienden a alucinar información cuando se les pide generar datos específicos sin fuentes verificables. En el caso de KPMG, el equipo usó la IA para redactar informes de consultoría, pero no contrastó los resultados. El resultado fue una mezcla de texto coherente con cifras inventadas. Cualquier desarrollador sabe que un modelo no distingue entre un dato real y uno plausible. La lección es clara: la IA es una herramienta, no un sustituto del juicio humano.
Consultoría 2.0: ahora con datos de fantasía incluidos 🤖
KPMG ha demostrado que se puede facturar un informe sin escribir una línea, pero también sin aportar un solo dato real. Quizás el siguiente paso sea que la IA genere directamente las excusas para cuando el cliente descubra que su análisis está basado en un universo paralelo. Al menos, ahora sabemos que los consultores pueden ser reemplazados por chatbots que mienten con la misma soltura. Eso sí, sin cobrar honorarios.