Los sistemas de inteligencia artificial de riesgo alto no son ciencia ficción, sino una realidad que afecta derechos fundamentales. Desde la regulación del tráfico hasta procesos de selección de personal, estos sistemas deben cumplir requisitos estrictos de transparencia y supervisión humana para evitar sesgos o decisiones arbitrarias que impacten en la salud, seguridad o empleo de las personas.
Cómo funciona un semáforo inteligente de riesgo alto 🚦
Estos sistemas procesan datos en tiempo real de cámaras y sensores para calcular el flujo de vehículos y peatones. El algoritmo ajusta la duración de los semáforos priorizando la eficiencia del tráfico, pero también debe garantizar la seguridad peatonal. La normativa exige que un humano pueda anular la decisión del sistema en caso de fallo o situación imprevista, lo que implica un diseño técnico con mecanismos de override y registros de auditoría para cada decisión automatizada.
El semáforo que te odia (o solo quiere que llegues tarde) 😅
Si alguna vez has pensado que un semáforo cambia a rojo solo al verte llegar, puede que no vayas tan desencaminado. Los sistemas de riesgo alto aprenden patrones y, con la excusa de la eficiencia, deciden que tu prisa no es prioritaria. Pero no temas: si el algoritmo se vuelve rencoroso, siempre puedes apelar a un humano que, probablemente, estará tan desbordado como el propio sistema.