La Unión Europea ha decidido poner coto a las aplicaciones de desnudos que usan inteligencia artificial para crear deepfakes de contenido sexual no consentido. La medida, que forma parte de una nueva regulación, busca proteger la privacidad y la imagen de las personas frente a una tecnología que se ha vuelto accesible para cualquiera con un smartphone. Las apps que generen estos montajes sin permiso explícito quedarán prohibidas en todo el bloque comunitario.
Cómo funciona la detección de estos montajes digitales 🛡️
La tecnología detrás de estos deepfakes suele usar redes generativas antagónicas (GANs) para mapear el rostro de una persona sobre un cuerpo desnudo. Los sistemas de moderación, por su parte, emplean modelos de visión por computadora entrenados con datasets de imágenes reales y sintéticas para identificar anomalías en texturas, iluminación y bordes. La nueva ley obligará a las plataformas a implementar filtros automáticos que bloqueen la subida de este contenido, con sanciones económicas para quienes no cumplan.
La app de desnudos que ahora solo servirá para selfies aburridos 😅
Resulta que las startups que vendían la app para quitarte la ropa con un clic ahora tendrán que reciclar su código para algo más útil, como un filtro de Instagram que te ponga una gabardina o un chubasquero cutre. Los desarrolladores lloran en sus teclados porque su prometedor negocio de desnudos virtuales se ha ido al garete. Eso sí, al menos los abogados de la UE han asegurado que nadie volverá a recibir un deepfake sexual de su cuñado en el grupo de WhatsApp.