Dell hat den PowerEdge XE9680 auf den Markt gebracht, einen Server, der für schwere Arbeit mit künstlicher Intelligenz konzipiert ist. Sein Daseinszweck ist es, bis zu acht leistungsstarke GPUs wie die beliebte NVIDIA H100 zu beherbergen, die miteinander verbunden sind, um das Training großer Sprachmodelle zu beschleunigen. Es ist keine Ausrüstung für Spiele oder das Büro nebenan.
Die Architektur, die die Modellgewichte bewegt 🚀
Das Geheimnis des XE9680 liegt in seinem Kühldesign und dem Verbindungsbus. Die acht GPUs kommunizieren über NVLink, wodurch Engpässe bei der Datenübertragung beseitigt werden. Jede H100-GPU verfügt über 80 GB HBM3-Speicher, was insgesamt 640 GB ergibt, um riesige Datensätze zu verarbeiten. Das Gehäuse ist optimiert, um die Wärme abzuleiten, die durch einen Verbrauch von über 3000W entsteht – etwas, das in einem normalen Büro die Sicherungen durchbrennen lassen würde.
Wenn deine Stromrechnung mehr wert ist als dein Auto 💡
Acht H100 rund um die Uhr laufen zu lassen, ist keine Laune, sondern eine Absichtserklärung. Wenn dein Chef sich über die Kaffeekosten beschwert, zeig ihm bloß nicht die Stromrechnung dieses Monsters. Aber wenn das Modell nach drei Wochen endlich trainiert ist, kannst du den Schweiß verbergen und sagen, es lag an der GPU, nicht am Druck der Konkurrenz.