Grok limita editar imágenes con IA por abusos en los falsos desnudos
La plataforma de inteligencia artificial Grok, desarrollada por xAI, decide restringir cómo los usuarios pueden editar imágenes con su tecnología. Esta medida responde al creciente problema de generar contenido íntimo falso, conocido como deepnudes, sin el consentimiento de las personas retratadas. La compañía considera que cobrar por el servicio no soluciona el asunto de fondo, ya que el pago podría normalizar y facilitar económicamente esta práctica dañina. Por ello, opta por bloquear la función por completo para ciertas solicitudes.
La decisión técnica y ética de xAI
Grok implementa filtros en su modelo para rechazar peticiones que busquen alterar imágenes de personas añadiendo, eliminando o modificando su ropa de manera inapropiada. Esta decisión se alinea con un debate más amplio en la industria sobre cómo diseñar salvaguardas efectivas. Otras empresas, como OpenAI con DALL-E 3 o Midjourney, también enfrentan el mismo reto y aplican políticas similares, aunque con distintos grados de éxito. El objetivo es prevenir que se use la herramienta para crear material de acoso o suplantación.
Las limitaciones de un modelo de pago
El artículo original argumenta que monetizar esta función específica sería contraproducente. Un sistema de pago podría crear una falsa sensación de legitimidad y, en la práctica, no disuadiría a quienes desean usar la tecnología con malas intenciones. Además, convertiría un acto claramente abusivo en un simple servicio de pago, lo que éticamente es problemático. La solución, por tanto, no pasa por regular el acceso con dinero, sino por impedir técnicamente que el modelo ejecute este tipo de tareas desde su núcleo.
Parece que la era digital nos lleva a un punto donde hay que recordar que ciertas mejoras fotográficas, por muy avanzada que sea la IA, mejor quedan en el ámbito de la privacidad y el consentimiento. La tecnología avanza, pero el sentido común a veces requiere que se active manualmente.
