एंड्रिया वालोन ओपनएआई छोड़कर एंथ्रोपिक में शामिल हो रही हैं और एआई के नैतिक सीमाओं पर अपनी खोज जारी रखेंगी
कृत्रिम बुद्धिमत्ता क्षेत्र में एक महत्वपूर्ण बदलाव हो रहा है। एंड्रिया वालोन, सुरक्षा और संरेखण में विशेषज्ञ शोधकर्ता, ने ओपनएआई में तीन वर्षों के बाद कंपनी बदलने का फैसला किया है। उनका नया गंतव्य एंथ्रोपिक है, जो सुरक्षित एआई निर्माण पर कठोर दृष्टिकोण के लिए जाना जाने वाला प्रत्यक्ष प्रतियोगी है। यह बदलाव महत्वपूर्ण और अभी भी कम विनियमित क्षेत्र में विशेषज्ञ प्रतिभा को आकर्षित करने की तीव्र लड़ाई को रेखांकित करता है। 🤖
उनके कार्य का मूल: उपयोगकर्ता की रक्षा
ओपनएआई में, वालोन एक टीम का नेतृत्व करती थीं जिसका मुख्य उद्देश्य अध्ययन करना था कि भाषा मॉडल बातचीत में चेतावनी संकेतों का पता लगाने पर कैसे कार्य करें। उनकी खोज निदान करने का प्रयास नहीं करती, बल्कि एआई सहायक को यह जानने के लिए प्रोटोकॉल परिभाषित करती है कि कब और कैसे संवाद को मोड़ना चाहिए, पेशेवर सहायता सुझाना या स्पष्ट सीमाएं स्थापित करना। फोकस उपयोगकर्ता की संभावित मनोवैज्ञानिक कमजोरी को बातचीत से बिगड़ने से रोकने पर है, उपयोगिता और सुरक्षा के बीच जटिल संतुलन।
ओपनएआई में उनकी खोज के स्तंभ:- विश्लेषण करें कि एआई सहायक उपयोगकर्ताओं में अत्यधिक भावनात्मक निर्भरता के संकेत कैसे पता लगाते हैं।
- संभावित हानिकारक बातचीतों को नरमी से निष्क्रिय करने वाले प्रतिक्रियाओं और प्रोटोकॉल विकसित करें।
- व्यक्ति की सुरक्षा और कल्याण को प्राथमिकता देते हुए सहायक की उपयोगिता बनाए रखें।
यह शाश्वत बहस कि क्या आपका चैटबॉट आपका सबसे अच्छा दोस्त होना चाहिए या चिकित्सक के लिए आपका पहला फिल्टर, अभी भी अनसुलझी है।
एंथ्रोपिक में कूदने के निहितार्थ
एंथ्रोपिक में उनकी शामिल होना इस कंपनी के लिए महत्वपूर्ण लाभ है। एंथ्रोपिक एआई के लिए संवैधानिक सिद्धांतों के अपने ढांचे और सुरक्षित सिस्टम विकसित करने के प्रति प्रतिबद्धता के लिए जानी जाती है। वालोन का नैतिक संवेदनशीलता वाले क्षेत्र में अनुभव सीधे प्रभाव डाल सकता है कि एंथ्रोपिक अपने मॉडलों, जैसे क्लाउड, की सुरक्षा कैसे डिजाइन करती है, विशेष रूप से शुद्ध रूप से उपकरणात्मक से परे बातचीत में।
इस बदलाव के परिणाम:- यह एआई दिग्गजों के बीच सुरक्षा और संरेखण विशेषज्ञों के लिए उग्र प्रतिस्पर्धा को प्रतिबिंबित करता है।
- एंथ्रोपिक को मानव-एआई बातचीत में नैतिक सीमाओं को मजबूत करने के लिए एक प्राधिकृत आवाज मिलती है।
- एआई सहायकों में मानसिक स्वास्थ्य और निर्भरता पर अध्ययन का क्षेत्र आगे बढ़ेगा, लेकिन अब एक अन्य प्रमुख प्रयोगशाला से।
सीमा पर एक अध्ययन क्षेत्र
वालोन द्वारा नेतृत्व की गई खोज विकास के नैतिक सीमा पर स्थित है।