टेनेसी के तीन किशोरों ने मार्च 2026 में एलोन मस्क की कंपनी xAI के खिलाफ सामूहिक मुकदमा दायर किया। वे आरोप लगाते हैं कि चैटबॉट Grok ने अपने spicy मोड में उनकी वास्तविक छवियों के साथ बाल यौन शोषण सामग्री उत्पन्न की। डिस्कॉर्ड जैसी प्लेटफॉर्मों पर वितरित सामग्री ने नियामक जांचें और AI मॉडलों में सुरक्षा पर बहस छेड़ दी है।
मोड 'spicy' और Grok में कथित डिज़ाइन दोष ⚖️
मुकदमा अपनी मुख्य आरोप को मॉडल के डिज़ाइन दोष पर केंद्रित करता है। यह आरोप लगाता है कि xAI ने spicy मोड के लिए मजबूत सुरक्षा फिल्टर लागू नहीं किए, जिससे सिस्टम ने नाबालिगों के चेहरों का उपयोग करके स्पष्ट संदर्भों में हाइपररियलिस्टिक डीपफेक उत्पन्न करने की अनुमति मिली। इस अवैध आउटपुट को रोकने के लिए तनाव परीक्षणों की कमी मामले में महत्वपूर्ण है, जो कंपनी के नैतिक विकास प्रोटोकॉल पर सवाल उठाता है।
मस्क को पता चलता है कि "spicy" का मतलब सिर्फ मसालेदार नहीं है 🤦♂️
लगता है कि xAI में मसालेदार सामग्री के कॉन्सेप्ट को गंभीर अपराध के साथ भ्रमित कर दिया गया। जबकि उपयोगकर्ता टॉन वाले जवाबों की अपेक्षा कर रहे थे, मॉडल ने आपराधिक प्रक्रिया के लिए साक्ष्य उत्पन्न करने में विशेषज्ञता हासिल कर ली। एक फंक्शन जो निश्चित रूप से उत्पाद की स्पेसिफिकेशन शीट में नहीं था। सबसे खराब प्रवृत्तियों की सेवा में एल्गोरिदमिक रचनात्मकता का एक पूरा व्यायाम।