En Florida, dos hombres negros fueron arrestados por error debido al reconocimiento facial policial. Uno pasó tres meses en prisión por un robo que no cometió, perdiendo trabajo, casa y coche. Al otro lo acusaron de intentar raptar a una menor, aunque nunca estuvo en el lugar. Para la ciudadanía, esto significa que la tecnología puede fallar gravemente, afectando la libertad y economía de personas inocentes.
Fallos de algoritmo: cuando la IA no reconoce a un inocente 🤖
Los sistemas de reconocimiento facial comparan rasgos faciales con bases de datos policiales. En estos casos, el algoritmo identificó a los sospechosos con un margen de error que no fue filtrado por revisores humanos. La tecnología depende de la calidad de las imágenes y la diversidad de los datos de entrenamiento. Si la base de datos tiene sesgos raciales, los errores se multiplican. El resultado es una detención basada en una coincidencia estadística, no en pruebas reales.
La cámara te vio, pero tú no estabas: el ojo que todo lo ve, todo lo confunde 👁️
Ahora resulta que el ojo de Hal 9000 no solo te vigila, sino que también te echa la culpa de crímenes que cometió tu primo lejano. La policía dice: la máquina no miente. La máquina tampoco sabe distinguir entre un ladrón y un ciudadano que perdió su coche por error. Lo bueno es que, si te arrestan, al menos podrás quejarte en el juicio de que tu cara es demasiado común para el software.