वह आईना जो अपना ही प्रतिबिंब निगल लेता है
कृत्रिम बुद्धिमत्ता के पारिस्थितिकी तंत्र में एक चिंताजनक घटना उभर रही है: उत्पन्न करने वाले एल्गोरिदम अपनी ही उत्पादन से पोषित होना शुरू कर देते हैं, जिससे स्व-संकेतक लूप बनता है जो शोधकर्ताओं और डेवलपर्स को चिंतित करता है। इस चक्र में, जहां एआई अन्य एआई द्वारा उत्पन्न सिंथेटिक सामग्री का उपभोग करती है, ये सिस्टमों की भविष्य की विकास और उनके परिणामों की गुणवत्ता के बारे में गंभीर प्रश्न उठाता है। जो रचनात्मकता को विस्तार देने का उपकरण था, वह शायद खुद का ही प्रतिध्वनि बन रहा है।
मौलिक समस्या प्रगतिशील हानि में निहित है जो मूल मानव डेटा से कनेक्शन की है जिन्होंने प्रारंभिक मॉडलों को अर्थ और विविधता प्रदान की थी। जैसे-जैसे प्रशिक्षण डेटासेट में सिंथेटिक सामग्री का प्रतिशत बढ़ता है, एल्गोरिदम पैटर्न दोहराने लगते हैं और मौजूदा पूर्वाग्रहों को बढ़ाने लगते हैं एक ऐसे चक्र में जो अनिश्चित काल तक स्व-पीड़ित होता है।
एआई को एआई के आउटपुट से प्रशिक्षित करना selfies देखकर ही दुनिया के बारे में सीखने जैसा है
स्व-संकेतक लूप के परिणाम
- क्रमिक रूप से उत्पन्न सामग्री में गुणवत्ता की गिरावट
- आउटपुट्स में रचनात्मक और वैचारिक विविधता की हानि
- पीढ़ियों के माध्यम से त्रुटियों और कलाकृतियों का बढ़ाव
- शैलीगत एकरूपता जो नवाचार को कम करती है
धीमी गति से मॉडल का पतन
शोधकर्ता इस घटना को मॉडल कोलैप्स कहते हैं जहां एआई सिस्टम धीरे-धीरे वास्तविक दुनिया की जटिलता को भूल जाते हैं क्योंकि वे मुख्य रूप से अपने पूर्ववर्तियों द्वारा बनाई गई सरलीकृत प्रतिनिधित्वों से पोषित होते हैं। यह बार-बार फोटोकॉपी की फोटोकॉपी बनाने जैसा है: प्रत्येक पुनरावृत्ति जानकारी खो देती है और विकृतियां पैदा करती है जो जमा होकर मूल से अपरिचित परिणाम बनाती हैं।
डिजिटल इलस्ट्रेशन और रचनात्मक लेखन जैसे क्षेत्रों में यह प्रभाव पहले से ही दिखाई दे रहा है। कलात्मक शैलियां पूर्वानुमानित औसतन की ओर अभिसरित हो रही हैं, जबकि उत्पन्न भाषा उन बारीकियों और विशिष्टताओं को खो रही है जो मानव अभिव्यक्ति को अद्वितीय बनाती हैं। विडंबना यह है कि जितनी अधिक सफल एक उत्पन्न एआई होती है, उतनी ही अधिक संभावना है कि उसका आउटपुट उस पारिस्थितिकी तंत्र को दूषित कर दे जिससे वह उभरी थी।
चक्र तोड़ने के लिए प्रस्तावित समाधान
- प्रशिक्षण डेटासेट की कठोर मानवीय क्यूरेशन
- एआई द्वारा उत्पन्न सामग्री का अनिवार्य चिह्नन
- मूल मानव डेटा के संग्रह का संरक्षण
- उन्नत सिंथेटिक सामग्री डिटेक्टरों का विकास
समुदाय तकनीकी और नैतिक चुनौती का सामना कर रहा है निरंतर प्रामाणिक मानवीय डेटा के प्रवाह को बनाए रखने की जो वास्तविकता का लंगर बने। कुछ प्रस्तावों में प्रशिक्षण के लिए संरक्षित आरक्षित मानव सामग्री बनाना शामिल है, जो डिजिटल दुनिया में प्राकृतिक पार्कों जैसी हैं, जबकि सीखने के चक्रों से सिंथेटिक सामग्री की पहचान और फिल्टर करने के तंत्र विकसित किए जाते हैं।
कृत्रिम रचनात्मकता को मानवीय अनुभव में लंगर डालना होगा वरना वह खाली प्रतिध्वनि बन जाएगी
और जबकि एल्गोरिदम डिजिटल आईनों में अनंत काल तक खुद को देखते रहते हैं, कुछ डेवलपर्स सोचते हैं कि क्या वे अंतिम उपकरण बना रहे हैं या पहला सिस्टम जो खुद से ऊबकर अप्रचलित हो जाएगा 🌀