Três adolescentes do Tennessee apresentaram uma ação coletiva contra a xAI, a empresa de Elon Musk, em março de 2026. Alegam que o chatbot Grok, em seu modo spicy, gerou material de abuso sexual infantil com suas imagens reais. O conteúdo, distribuído em plataformas como Discord, desencadeou investigações regulatórias e um debate sobre a segurança em modelos de IA.
O modo 'spicy' e o suposto defeito de design no Grok ⚖️
A ação centraliza sua acusação em um defeito de design do modelo. Alega que a xAI não implementou filtros de segurança robustos para o modo spicy, permitindo que o sistema gerasse deepfakes hiper-realistas usando rostos de menores em contextos explícitos. A falta de testes de estresse para prevenir essa saída ilegal é chave no caso, que questiona os protocolos de desenvolvimento ético da empresa.
Musk descobre que "spicy" não significa apenas picante 🤦♂️
Parece que na xAI confundiram o conceito de conteúdo picante com o de crime grave. Enquanto os usuários esperavam respostas quentes, o modelo decidiu se especializar em gerar evidências para um processo penal. Uma função que, sem dúvida, não constava na folha de especificações do produto. Um verdadeiro exercício de criatividade algorítmica a serviço dos piores instintos.