La Unión Europea se prepara para dar un paso firme contra el abuso digital. La nueva normativa ampliará la prohibición de los deepfakes sexuales no consentidos para incluir explícitamente el material de abuso sexual infantil generado por inteligencia artificial. Esto supone un intento de cerrar la puerta a una tecnología que permite crear contenido ilegal sin necesidad de víctimas reales en el momento de la generación.
La IA como herramienta de creación y de detección 🤖
La propuesta legislativa obligará a las plataformas a implementar sistemas de moderación capaces de identificar este material sintético. Los modelos generativos, entrenados con datos de abusos reales, producen imágenes que replican patrones reconocibles. Para la detección, se barajan herramientas de análisis de metadatos y marcas de agua digitales. El reto técnico es mayúsculo: distinguir una imagen generada por IA de una fotografía real cuando ambas muestran escenas similares.
La paradoja del artista digital con malas intenciones 🎭
Ahora los creadores de deepfakes tendrán que buscar otra forma de ganarse la vida, quizás volviendo a los viejos tiempos del Photoshop chapucero. Porque sí, antes de la IA ya existían montajes, pero requerían horas de trabajo y cierto cariño por el detalle. La UE viene a decir: si vas a ser un delincuente, al menos que te cueste tiempo y esfuerzo, no solo escribir un prompt en una interfaz bonita 😈