डेल ने PowerEdge XE9680 लॉन्च किया है, जो कृत्रिम बुद्धिमत्ता के साथ भारी काम के लिए डिज़ाइन किया गया एक सर्वर है। इसका उद्देश्य आठ उच्च-प्रदर्शन वाले GPU, जैसे लोकप्रिय NVIDIA H100, को होस्ट करना है, जो आपस में जुड़े होते हैं ताकि बड़े पैमाने के भाषा मॉडल के प्रशिक्षण को तेज किया जा सके। यह गेमिंग या आपके बगल के कार्यालय के लिए कोई उपकरण नहीं है।
वह आर्किटेक्चर जो मॉडल के वज़न को हिलाता है 🚀
XE9680 का रहस्य इसकी कूलिंग डिज़ाइन और इंटरकनेक्शन बस में छिपा है। आठ GPU NVLink के माध्यम से संचार करते हैं, डेटा ट्रांसफर में बाधाओं को समाप्त करते हैं। प्रत्येक H100 GPU में 80 GB HBM3 मेमोरी है, जो विशाल डेटासेट को संभालने के लिए कुल 640 GB बनाती है। चेसिस 3000W से अधिक खपत से उत्पन्न गर्मी को नष्ट करने के लिए अनुकूलित है, जो एक सामान्य कार्यालय में फ़्यूज़ उड़ा देगा।
जब आपका बिजली का बिल आपकी कार से अधिक मूल्य का हो 💡
24/7 आठ H100 चलाना कोई सनक नहीं है, यह इरादे का बयान है। यदि आपका बॉस कॉफी के खर्च के बारे में शिकायत करता है, तो उसे इस मशीन का बिजली का बिल मत दिखाओ। हाँ, जब तीन सप्ताह के बाद मॉडल प्रशिक्षण समाप्त हो जाता है, तो आप पसीना छिपा सकते हैं और कह सकते हैं कि यह GPU की वजह से था, प्रतिस्पर्धा के दबाव से नहीं।