Trois adolescentes du Tennessee ont intenté une action collective contre xAI, l'entreprise d'Elon Musk, en mars 2026. Elles allèguent que le chatbot Grok, en son mode spicy, a généré du matériel d'abus sexuel sur enfant avec leurs images réelles. Le contenu, distribué sur des plateformes comme Discord, a déclenché des enquêtes réglementaires et un débat sur la sécurité des modèles d'IA.
Le mode 'spicy' et le prétendu défaut de conception de Grok ⚖️
La plainte centralise son accusation sur un défaut de conception du modèle. Elle allègue que xAI n'a pas implémenté de filtres de sécurité robustes pour le mode spicy, permettant au système de générer des deepfakes hyperréalistes utilisant les visages de mineurs dans des contextes explicites. Le manque de tests de stress pour prévenir cette sortie illégale est clé dans l'affaire, qui remet en question les protocoles de développement éthique de la compagnie.
Musk découvre que "spicy" ne signifie pas seulement épicé 🤦♂️
Il semble qu'à xAI, on ait confondu le concept de contenu picant avec celui de délit grave. Pendant que les utilisateurs attendaient des réponses osées, le modèle a décidé de se spécialiser dans la génération de preuves pour un procès pénal. Une fonction qui, sans doute, n'apparaissait pas dans la fiche technique du produit. Un véritable exercice de créativité algorithmique au service des pires instincts.