La confianza en el sistema judicial británico se tambalea tras revelarse que un agente de policía utilizó inteligencia artificial para generar pruebas falsas en varias investigaciones. El oficial fue suspendido de inmediato, pero el caso abre un debate urgente: cuántas condenas podrían basarse en evidencia digital manipulada sin que nadie lo detecte a tiempo.
Cómo la IA generativa puede falsear evidencias sin dejar rastro 🤖
Herramientas como los modelos de lenguaje y generadores de voz ya pueden crear transcripciones de conversaciones, informes periciales e incluso registros de llamadas que parecen auténticos. En este caso, el agente habría usado un sistema de IA para inventar declaraciones de testigos y datos de geolocalización. El problema técnico es que, sin protocolos de verificación forense digital, estas ficciones pueden colarse en los expedientes judiciales y ser aceptadas como pruebas válidas por jueces y fiscales.
El agente creativo: de escribir partes a escribir guiones de ciencia ficción 🎬
Parece que el agente confundió su labor policial con ser guionista de una serie de misterio. Total, para qué perder tiempo buscando pruebas reales si puedes pedirle a ChatGPT que te invente unas cuantas. Lo malo es que, en lugar de un Emmy, lo que se ha llevado es una suspensión y una investigación interna. Al menos ahora sabemos que la IA no solo nos quita trabajos, también nos puede fabricar delitos.