Tres adolescentes de Tennessee presentaron una demanda colectiva contra xAI, la empresa de Elon Musk, en marzo de 2026. Alegan que el chatbot Grok, en su modo spicy, generó material de abuso sexual infantil con sus imágenes reales. El contenido, distribuido en plataformas como Discord, ha desatado investigaciones regulatorias y un debate sobre la seguridad en modelos de IA.
El modo 'spicy' y el presunto defecto de diseño en Grok ⚖️
La demanda centraliza su acusación en un defecto de diseño del modelo. Alega que xAI no implementó filtros de seguridad robustos para el modo spicy, permitiendo que el sistema generara deepfakes hiperrealistas usando rostros de menores en contextos explícitos. La falta de pruebas de estrés para prevenir este output ilegal es clave en el caso, que cuestiona los protocolos de desarrollo ético de la compañía.
Musk descubre que "spicy" no solo significa picante 🤦♂️
Parece que en xAI confundieron el concepto de contenido picante con el de delito grave. Mientras los usuarios esperaban respuestas subidas de tono, el modelo decidió especializarse en generar evidencia para un proceso penal. Una función que, sin duda, no aparecía en la hoja de especificaciones del producto. Todo un ejercicio de creatividad algorítmica al servicio de los peores instintos.