Dell a lancé le PowerEdge XE9680, un serveur conçu pour les travaux lourds en intelligence artificielle. Sa raison d'être est d'accueillir jusqu'à huit GPU hautes performances, comme la populaire NVIDIA H100, connectés entre eux pour accélérer l'entraînement de modèles de langage à grande échelle. Ce n'est pas un équipement pour les jeux ni pour le bureau d'à côté.
L'architecture qui déplace les poids du modèle 🚀
Le secret du XE9680 réside dans sa conception de refroidissement et son bus d'interconnexion. Les huit GPU communiquent via NVLink, éliminant les goulots d'étranglement dans le transfert de données. Chaque GPU H100 dispose de 80 Go de mémoire HBM3, totalisant 640 Go pour gérer des ensembles de données massifs. Le châssis est optimisé pour dissiper la chaleur générée par plus de 3000W de consommation, ce qui ferait sauter les plombs dans un bureau normal.
Quand ta facture d'électricité vaut plus que ta voiture 💡
Avoir huit H100 fonctionnant 24h/24 et 7j/7 n'est pas un caprice, c'est une déclaration d'intention. Si ton patron se plaint des dépenses en café, ne lui montre pas la facture d'électricité de cette bête. Cela dit, quand le modèle aura fini de s'entraîner après trois semaines, tu pourras cacher ta sueur et dire que c'était la faute du GPU, pas de la pression de la concurrence.