ओपनएआई ने एलेक्सांडर मैड्री को एआई जोखिमों के लिए तैयारी टीम का नेतृत्व करने के लिए नियुक्त किया

OpenAI ने Aleksander Madry को AI जोखिमों के लिए तैयारी टीम का नेतृत्व करने के लिए नियुक्त किया

कंपनी OpenAI अपनी आंतरिक संरचना को पुनर्गठित कर रही है ताकि भविष्य के कृत्रिम बुद्धिमत्ता प्रणालियों द्वारा प्रस्तुत चुनौतियों का सक्रिय रूप से सामना किया जा सके। CEO Sam Altman ने Aleksander Madry, एक MIT विशेषज्ञ, को उन्नत AI से जुड़े खतरों का मूल्यांकन और प्रबंधन करने वाली नई टीम का नेतृत्व करने के लिए नियुक्त किया है। यह कदम शक्तिशाली प्रौद्योगिकी के विकास को सुरक्षित सुनिश्चित करने की बढ़ती प्राथमिकता को दर्शाता है। 🤖

तैयारी टीम का केंद्रीय मिशन

Madry के नेतृत्व वाली टीम का कार्य विनाशकारी जोखिमों का विश्लेषण करना और उन्हें कम करने के लिए तंत्र स्थापित करना है। उनका काम वर्तमान मॉडलों पर केंद्रित नहीं है, बल्कि भविष्य की प्रणालियों की क्षमताओं की भविष्यवाणी करना है। उद्देश्य OpenAI को जिम्मेदारीपूर्ण तरीके से नवाचार करने में सक्षम बनाने का है, बिना अपने ही सफलता के संभावित नकारात्मक प्रभावों को नजरअंदाज किए।

• मॉडलों की रासायनिक या जैविक हथियार बनाने में सहायता करने की क्षमता का विश्लेषण।
• उनकी मनुष्यों को धोखा देने या प्रणालियों को हेरफेर करने की क्षमता का मूल्यांकन।
• प्रभावी मानव पर्यवेक्षण के बिना स्वायत्त रूप से संचालित होने से जुड़े जोखिमों का अध्ययन।

जबकि कुछ टीमें मानव से श्रेष्ठ बुद्धिमत्ता बनाने पर काम कर रही हैं, दूसरी यह सुनिश्चित करने पर ध्यान दे रही है कि यदि वह सफल हो जाती है, तो वह फैसला न करे कि हम सिस्टम में एक त्रुटि हैं। यह I+D और क्षति नियंत्रण के बीच क्लासिक विभाजन है।

दीर्घकालिक सुरक्षा पर रणनीतिक दृष्टिकोण

इस टीम का गठन सुपरइंटेलिजेंट AI के बारे में चिंताओं का सीधा प्रतिक्रिया है। Aleksander Madry, MIT में प्रोफेसर जिनकी विशेषज्ञता AI की मजबूती और सुरक्षा पर केंद्रित है, एक महत्वपूर्ण शैक्षणिक और तकनीकी दृष्टिकोण लाते हैं। उनका नेतृत्व कंपनी की संस्कृति में उच्च प्रभाव वाले परिदृश्यों की भविष्यवाणी को संस्थागत बनाने का प्रयास करता है।

• टीम त्रैमासिक रिपोर्टें OpenAI के बोर्ड ऑफ डायरेक्टर्स को प्रस्तुत करेगी।
• ये रिपोर्ट प्रबंधन को नए सिस्टम के विकास और तैनाती पर सूचित निर्णय लेने में मदद करेंगी।
• लक्ष्य जोखिम मूल्यांकन को नवाचार चक्र में ही एकीकृत करना है, न कि बाद में जोड़ा गया।

नवाचार और सावधानी के बीच संतुलन

यह निर्णय OpenAI के विकास में एक महत्वपूर्ण कदम है, जो शक्तिशाली AI विकसित करने की अपनी महत्वाकांक्षा को सुरक्षित रूप से करने की बाध्यता के साथ संतुलित करने का प्रयास कर रही है। Madry जैसे व्यक्ति को नियुक्त करके, कंपनी दीर्घकालिक अस्तित्वगत जोखिमों को कितनी गंभीरता से ले रही है, इसका स्पष्ट संदेश दे रही है। इस टीम की सफलता अभी अस्तित्व में न आने वाले खतरों की भविष्यवाणी करने की क्षमता से मापी जाएगी, जो प्रौद्योगिकी के भविष्य के लिए एक मौलिक चुनौती है। ⚖️