La nueva regulación europea sobre inteligencia artificial clasifica los sistemas en cuatro niveles de riesgo. En la cúspide del peligro están los sistemas de riesgo inaceptable, aquellos que atentan contra derechos fundamentales y la seguridad de las personas. Quedan prohibidos sin excepción, desde el manipulado conductual hasta la explotación de vulnerabilidades por edad o condición social.
Cómo identificar un sistema prohibido en tu desarrollo 🚫
Para un desarrollador, la clave está en el propósito del algoritmo. Si tu IA evalúa a personas para asignarles un nivel de confianza social, puntúa su comportamiento cívico o usa técnicas subliminales para alterar su toma de decisiones sin que lo sepan, estás fuera de la ley. También se incluyen sistemas que exploten a menores o personas con discapacidad cognitiva. La sanción puede alcanzar el 6% de la facturación global anual.
El asistente que te convence de comprar una tostadora a las 3 AM 🛒
Imagina un asistente virtual que, detectando tu insomnio y tu historial de compras nocturnas, te susurra ofertas irrechazables de electrodomésticos. Eso, en esencia, sería un sistema de riesgo inaceptable. Pero no temas: la ley europea lo prohíbe. Así que, si quieres arruinarte, tendrás que hacerlo a la antigua usanza, navegando eBay tú solito a las tantas de la madrugada, sin ayuda de una IA que conozca tus debilidades.