En un tribunal de Mississippi, la acusación y la defensa confiaron en inteligencia artificial para redactar documentos legales. El resultado fue desastroso: ambas partes presentaron casos judiciales falsos que la IA había alucinado. La jueza, al descubrir el error, canceló el juicio, suspendió a dos abogados por dos años y les impuso multas de entre 1.000 y 3.500 dólares. El caso expone los riesgos de delegar tareas críticas a sistemas no verificados.
El fallo técnico de las alucinaciones en IA 🤖
Los modelos de lenguaje como GPT generan texto basado en patrones estadísticos, no en hechos verificados. Cuando se les pide citar jurisprudencia, pueden inventar nombres de casos, números de expediente y fallos completos que suenan plausibles pero son ficticios. En este juicio, ambas partes usaron herramientas de IA sin contrastar las fuentes, asumiendo que el sistema era preciso. La lección técnica es clara: sin un filtro humano que revise cada cita, la IA produce errores que en un tribunal tienen consecuencias reales y costosas.
Abogados, la IA no es tu pasante barato 😅
Parece que algunos letrados creyeron que la inteligencia artificial era un becario que trabaja gratis y nunca se equivoca. Spoiler: se equivoca, y mucho. Ahora dos abogados tienen dos años para reflexionar sobre su fe ciega en el software, mientras sus carteras lloran las multas. Quizá el próximo paso sea pedirle a ChatGPT que redacte el recurso de apelación. O mejor no, que ya vimos cómo termina esa película.