कोड उत्पन्न करने वाली कृत्रिम बुद्धिमत्ता समय के साथ गुणवत्ता खो देती है
हाल ही में इलेक्ट्रिकल और इलेक्ट्रॉनिक्स इंजीनियर्स संस्थान (IEEE) की एक शोध से एक चिंताजनक घटना सामने आई है: कोड लिखने के लिए डिज़ाइन किए गए कृत्रिम बुद्धिमत्ता प्रणालियाँ लगातार सुधार नहीं करतीं, बल्कि उनका प्रदर्शन धीरे-धीरे बिगड़ता जाता है। यह खोज व्यापक रूप से अपनाई गई उपकरणों के दीर्घकालिक विकास पर सवाल उठाती है। 🤖
क्षय का दुष्चक्र
समस्या, जिसे कृत्रिम बुद्धिमत्ता का क्षय या मॉडल का पतन कहा जाता है, एक आत्म-विनाशकारी सीखने के तंत्र से उत्पन्न होती है। ये मॉडल इंटरनेट पर उपलब्ध बड़े volumes के कोड से प्रशिक्षित होते हैं, जिसमें अन्य AI द्वारा उत्पन्न आउटपुट भी शामिल होता जा रहा है। यदि उस कोड में कमियाँ हैं, तो नए सिस्टम इसे आत्मसात कर लेते हैं और प्रत्येक पुनरावृत्ति में त्रुटियों को बढ़ा देते हैं, जिससे धीमा और अधिक त्रुटिपूर्ण सॉफ्टवेयर उत्पन्न होता है।
पतन को तेज करने वाले प्रमुख कारक:- मॉडलों को खिलाने के लिए पुराने या निम्न गुणवत्ता वाले प्रशिक्षण डेटा का उपयोग।
- किसी कठोर फ़िल्टरिंग के बिना AI द्वारा उत्पन्न कोड का बड़े पैमाने पर प्रकाशन।
- इन सहायकों के आउटपुट का निरंतर मूल्यांकन और डिबगिंग के लिए तंत्रों की कमी।
प्रशिक्षण डेटा की कठोर फ़िल्टरिंग के बिना, इन कोड सहायकों की उपयोगिता कम हो जाएगी।
सॉफ्टवेयर विकास के लिए परिणाम
यह प्रवृत्ति डेवलपर्स और कंपनियों के लिए सीधी निहितार्थ रखती है। GitHub Copilot या ChatGPT जैसी समाधानों पर स्वचालित रूप से भरोसा करना प्रोग्रामिंग में सुरक्षा कमजोरियाँ ला सकता है और तकनीकी ऋण जमा कर सकता है, जो भविष्य में परियोजनाओं की स्थिरता को खतरे में डालता है। 🔧
पहचानी गई जोखिम क्षेत्र:- सुरक्षा: असुरक्षित कोडिंग प्रथाओं या अनजाने बैकडोर का प्रसार।
- प्रदर्शन: अप्रभावी एल्गोरिदम उत्पन्न करना जो आवश्यक से अधिक संसाधन खपत करते हैं।
- रखरखाव: पढ़ने और डिबग करने में कठिन कोड, जिसकी सुधार की लागत बढ़ जाती है।
समुदायिक समाधान की ओर
शोधकर्ता जोर देते हैं कि समुदाय को इस घटना का मुकाबला करने के लिए कार्य करना चाहिए। प्रशिक्षण डेटा के स्रोत की निगरानी करना और उत्पन्न कोड की गुणवत्ता का मूल्यांकन करने के लिए सामान्य मानक स्थापित करना आवश्यक है। विकल्प इन उपकरणों का उपयोग बंद करना नहीं है, बल्कि ऐसी प्रक्रियाओं को लागू करना है जो उनकी सकारात्मक और विश्वसनीय विकास सुनिश्चित करें। AI द्वारा सहायता प्राप्त प्रोग्रामिंग का भविष्य हमारी क्षमता पर निर्भर करता है कि हम इसे खिलाने वाली जानकारी को संगठित और संग्रहित करें।