म्रिनांक शर्मा बताते हैं कि वे एन्थ्रोपिक क्यों छोड़ रहे हैं और उनका नया प्रोजेक्ट
एन्थ्रोपिक में आईए सिस्टमों की रक्षा करने वाली टीम का नेतृत्व करने वाले शोधकर्ता ने एक आंतरिक संचार को सार्वजनिक किया है। इसमें, वे अपनी विदाई के कारणों का विस्तार से वर्णन करते हैं और एल्गोरिदमिक सुरक्षा के क्षेत्र में अपना अगला पेशेवर कदम प्रकट करते हैं। 🧠
जाने के निर्णय के पीछे के कारण
शर्मा बताते हैं कि उनकी विदाई कृत्रिम बुद्धिमत्ता को सुरक्षित बनाने की रणनीति पर मौलिक असहमति से जुड़ी हुई है। उनका मानना है कि इन सिस्टमों को विकसित करने की गति हमारी सत्यापित करने की क्षमता से अधिक है कि वे खतरा न बनें। इसलिए, उन्होंने अधिक स्वायत्त और स्वतंत्र स्थिति से अपने प्रयासों पर ध्यान केंद्रित करने का चुना।
उनकी तर्क की मुख्य बातें:- आईए के विकास में सुरक्षा को प्राथमिकता देने के तरीके पर दृष्टिकोण में अंतर हैं।
- वर्तमान तकनीकी प्रगति का वेग हमारी सुरक्षा उपायों को प्रभावी ढंग से लागू करने की क्षमता से तेज है।
- वे समस्या को बाहरी ढांचे से और अधिक स्वतंत्रता के साथ संबोधित करना पसंद करते हैं।
"कभी-कभी, रेत के महल की सबसे सुरक्षित रक्षा करने का तरीका किनारे से दूर हट जाना और थोड़ा आगे एक बांध बनाना है।"
भविष्य: एक नई गैर-लाभकारी संगठन
पूर्व निदेशक ने घोषणा की कि वे एक इकाई की स्थापना करने जा रहे हैं जो सबसे जटिल आईए मॉडलों से उत्पन्न खतरों का विश्लेषण करने के लिए समर्पित होगी। उनका लक्ष्य मूल्यांकन करना और कम करना संभावित बड़े पैमाने की угрозाएँ है, अन्य विशेषज्ञों के साथ काम करके अधिक मजबूत प्रोटोकॉल परिभाषित करना।
नई पहल के उद्देश्य:- उन्नत आईए के जोखिमों की जांच पर केंद्रित संगठन बनाना।
- शोधकर्ता समुदाय के साथ सहयोग करके मजबूत सुरक्षा मानदंड स्थापित करना।
- वैश्विक स्तर पर उत्पन्न हो सकने वाली संभावित खतरों को शमन करना।
आगे की ओर एक नजर
एन्थ्रोपिक से आईए सुरक्षा में एक प्रमुख व्यक्ति की विदाई उद्योग में मौजूदा बहसों को रेखांकित करती है। शर्मा का नया प्रोजेक्ट एक कमी को भरने का प्रयास करता है, जो स्वतंत्र जोखिम मूल्यांकन को बढ़ावा देता है जबकि तकनीक अपनी तेज प्रगति जारी रखती है। 🔍