ديل إكس إي ٩٦٨٠: وحش ثماني وحدات معالجة رسوميات لترويض نموذجك اللغوي الكبير

أطلقت شركة ديل خادم PowerEdge XE9680، وهو خادم مصمم للعمل الشاق مع الذكاء الاصطناعي. الغرض منه هو استيعاب ما يصل إلى ثماني وحدات معالجة رسومية عالية الأداء، مثل NVIDIA H100 الشهيرة، المترابطة معًا لتسريع تدريب نماذج اللغة واسعة النطاق. إنه ليس جهازًا للألعاب ولا للمكتب المجاور.

ثماني وحدات معالجة رسومية NVIDIA H100 تعالج البيانات بنشاط داخل هيكل خادم Dell PowerEdge XE9680، كابلات توصيل وحدات المعالجة الرسومية تتوهج بنبضات ضوئية لنقل البيانات، مراوح تبريد تدور بسرعة عالية، مشتتات حرارية تبدد الطاقة الحرارية، قضبان تثبيت رف الخادم مرئية، مؤشرات LED زرقاء تومض، تصور هندسي سينمائي، رسم توضيحي تقني فوتوغرافي واقعي، لقطة من زاوية منخفضة دراماتيكية، داخل خادم معدني مع إدارة دقيقة للكابلات، جزيئات غبار مضاءة بالإضاءة الداخلية، مكونات إلكترونية فائقة التفاصيل، جو غرفة خادم صناعية

الهندسة المعمارية التي تحرك أوزان النموذج 🚀

يكمن سر XE9680 في تصميم التبريد وناقل التوصيل البيني. تتواصل وحدات المعالجة الرسومية الثماني عبر NVLink، مما يزيل الاختناقات في نقل البيانات. تحتوي كل وحدة معالجة رسومية H100 على 80 جيجابايت من ذاكرة HBM3، ليصبح المجموع 640 جيجابايت للتعامل مع مجموعات البيانات الضخمة. تم تحسين الهيكل لتبديد الحرارة الناتجة عن استهلاك يزيد عن 3000 واط، وهو أمر من شأنه أن يتسبب في انقطاع التيار الكهربائي في مكتب عادي.

عندما تكون فاتورة الكهرباء الخاصة بك أغلى من سيارتك 💡

تشغيل ثماني وحدات H100 على مدار الساعة طوال أيام الأسبوع ليس ترفًا، بل هو إعلان نوايا. إذا اشتكى مديرك من الإنفاق على القهوة، فلا تر له فاتورة الكهرباء لهذا الوحش. صحيح، عندما ينتهي النموذج من التدريب بعد ثلاثة أسابيع، ستتمكن من إخفاء العرق والقول إن الأمر كان بفضل وحدة المعالجة الرسومية، وليس بسبب ضغط المنافسة.