Intel présente Gaudi 3, un accélérateur d'IA qui concurrence les GPU traditionnels dans l'entraînement de grands modèles de langage. Sa conception vise un équilibre entre performance et consommation énergétique, offrant une option viable pour les centres de données cherchant à réduire les coûts opérationnels sans sacrifier la capacité de calcul.
Architecture avec mémoire HBM et réseaux intégrés 🚀
Le Gaudi 3 intègre 128 Go de mémoire HBM2e et 24 cœurs de traitement tensoriel spécifiques. Son réseau d'interconnexion interne permet de passer à l'échelle avec des milliers d'unités sans les goulots d'étranglement typiques du PCIe. Intel affirme qu'il surpasse ses concurrents directs dans les tâches d'inférence et de fine-tuning, avec une consommation d'environ 600 W par unité en charge maximale.
Gaudi 3 : celui qui n'a pas besoin de ventilateur de bureau 😅
Alors que les GPU rivaux ressemblent à des radiateurs déguisés en matériel, Intel promet que le Gaudi 3 fonctionne plus frais. Bien sûr, si votre salle de serveurs ressemble à un sauna finlandais, cela vous est peut-être égal. Mais au moins, les ingénieurs pourront enlever leur manteau en déboguant les modèles de langage. Cela dit, ne vous attendez pas à ce qu'il vous prépare un café.