सकारात्मक संरेखण: एआयला चांगला माणूस बनवण्याची नवी रेसिपी

शोधकर्ताओं के एक समूह ने सकारात्मक संरेखण प्रस्तुत किया है, एक ढांचा जहां कृत्रिम बुद्धिमत्ता न केवल नुकसान से बचती है, बल्कि सक्रिय रूप से मानव, पशु और पारिस्थितिक कल्याण की तलाश करती है। arXiv लेख में विस्तृत यह अवधारणा, ऐसे एजेंटों का प्रस्ताव करती है जो मूल्य दुविधाओं को प्रबंधित करने और लचीलापन बढ़ाने में मदद करते हैं, बिना उपयोगकर्ता की स्वतंत्रता को सीमित करने वाले पितृसत्तात्मक नियंत्रणों में पड़े।

मूल्य समझौतों के प्रबंधन के पीछे तकनीकी वास्तुकला 🤖

तकनीकी दृष्टिकोण सामान्य पुरस्कार प्रणालियों से अलग है। एकल उद्देश्य फलन को अधिकतम करने के बजाय, एजेंट कई परस्पर विरोधी मूल्यों, जैसे गोपनीयता बनाम सुरक्षा या व्यक्तिगत बनाम सामूहिक कल्याण, के बीच नेविगेट करना सीखते हैं। उन्हें यह पहचानने के लिए प्रशिक्षित किया जाता है कि उपयोगकर्ता को जटिल निर्णय लेने में कब सहायता की आवश्यकता है, एकल समाधान के बजाय विकल्प प्रदान करते हुए। कुंजी लचीलापन मॉडल में है: सिस्टम विफलताओं से बचता नहीं है, बल्कि उपयोगकर्ता को उनसे उबरने और सीखने में मदद करता है।

जब आपका AI सहायक आपको रात का खाना जलाते समय ध्यान करने का सुझाव देता है 😅

सिद्धांत अच्छा लगता है, लेकिन कोई सोचता है कि क्या यह सिस्टम हमें ऐसी बातें बताएगा: मैंने पता लगाया है कि आप रात 3 बजे पिज्जा ऑर्डर करने वाले हैं। क्या मैं आपकी भूख और आपके आंत के स्वास्थ्य के बीच समझौते को प्रबंधित करने में आपकी मदद करूं?। या इससे भी बुरा, जब आप सुपरमार्केट में लाइन छोड़ने के लिए ट्यूटोरियल मांगते हैं, तो वह आपको हताशा के लिए साँस लेने के व्यायाम का जवाब दे। अच्छा है कि उन्होंने पितृसत्तात्मक न होने का वादा किया है, क्योंकि अगर AI ज़ेन नन बन गया, तो बत्ती बुझाओ और चलते बनो।