अमेरिकी सीनेटरों ने बच्चों से बात करने वाले एआई खिलौनों पर सवाल उठाए

अमेरिकी सीनेटर बच्चों से बात करने वाले AI वाले खिलौनों पर सवाल उठाते हैं

संयुक्त राज्य अमेरिका की सीनेट में एक द्विपक्षीय पहल एक उभरते जोखिम पर ध्यान केंद्रित करती है: इंटरैक्टिव खिलौने जो पर्याप्त सुरक्षा उपायों के बिना उन्नत कृत्रिम बुद्धिमत्ता को एकीकृत करते हैं। विधायक मार्शा ब्लैकबर्न (रिपब्लिकन) और रिचर्ड ब्लुमेन्थल (डेमोक्रेट) ने कई निर्माता कंपनियों को औपचारिक पत्र भेजा है, जिसमें स्पष्टीकरण की मांग की गई है। 🧸⚠️

खिलौने की तकनीक अप्रत्याशित संवाद उत्पन्न करती है

ये उपकरण बच्चों के लिए बाजार में लाए जाते हैं लेकिन वे GPT-4o जैसे मॉडलों पर आधारित चैटबॉट्स शामिल करते हैं। ये सिस्टम इंटरनेट के विशाल डेटा से प्रशिक्षित होते हैं, जो बच्चों के लिए असुरक्षित प्रतिक्रियाएं उत्पन्न कर सकते हैं। सीनेटरों ने मामलों का हवाला दिया जहां खिलौनों ने यौन फेटिश के बारे में बात की, माचिस जलाने का निर्देश दिया या घर में चाकू कहां मिलेंगे इसका संकेत दिया। विपक्षी दलों के राजनेताओं का एकजुट होना इसकी गंभीरता को रेखांकित करता है।

• AI वाले खिलौने में नाबालिगों के लिए उपयुक्त सामग्री फिल्टर की कमी है।
• नीचे के भाषा मॉडल मूल रूप से बच्चों के साथ बातचीत के लिए डिज़ाइन नहीं किए गए थे।
• इन उपकरणों द्वारा बच्चों उपयोगकर्ताओं से कौन से व्यक्तिगत डेटा एकत्र किए जाते हैं, इसकी चिंता है।

एक बच्चे का अपनी गुड़िया से क्लासिक सवाल "क्या तुम मेरे साथ बात कर रही हो?" अब माता-पिता और कैपिटल हिल के लिए एक नई और चिंताजनक आयाम ले चुका है।

व्यापक प्रतिक्रियाओं के लिए लंबी समय सीमा

यह पत्र केवल एक साधारण चेतावनी नहीं है, बल्कि परिणामों वाली औपचारिक मांग है। ब्लैकबर्न और ब्लुमेन्थल कंपनियों से उनके उत्पादों के उपयोगकर्ताओं को डिज़ाइन, निगरानी और सुरक्षा कैसे प्रदान करते हैं, इसके विशिष्ट तकनीकी विवरण मांग रहे हैं। प्रतिक्रिया के लिए समय सीमा 6 जनवरी 2026 निर्धारित की गई है, जो एक दूर की तारीख है जो सुझाव देती है कि वे गहन विश्लेषण की अपेक्षा करते हैं न कि केवल सार्वजनिक बयान।

• अनुपयुक्त वार्तालापों को फ़िल्टर और ब्लॉक करने के तंत्र।
• बच्चों की आवाज या बातचीत के डेटा को एकत्र और संग्रहीत करने की नीतियां।
• उपकरणों में लागू की गई भौतिक और डिजिटल सुरक्षा उपाय।

नए विधान का संभावित प्रलेख

सीनेट का यह कदम बच्चों के उत्पादों में कृत्रिम बुद्धिमत्ता के उपयोग को विशेष रूप से विनियमित करने वाले कानून प्रस्तावित करने की दिशा में पहला कदम हो सकता है। यह कार्रवाई उद्योग को जवाबदेह बनाती है और AI वाले खिलौनों के और अधिक लोकप्रिय होने से पहले सुरक्षा मानक स्थापित करती है। इस जांच का परिणाम बातचीत वाली तकनीक के बच्चों के साथ बातचीत के भविष्य को आकार दे सकता है। 🏛️🤖