La course pour entraîner des modèles d'intelligence artificielle toujours plus grands exige de déplacer les données à des vitesses vertigineuses. Broadcom présente le Thor 2, un adaptateur Ethernet 400G conçu pour minimiser la latence dans les clusters d'IA. Ce n'est pas une invention pour regarder Netflix plus vite ; c'est l'autoroute par laquelle circulent les pensées des machines.
L'architecture derrière le Thor 2 🚀
Le BCM57608 intègre un contrôleur réseau haute performance qui prend en charge la connectivité Ethernet à 400 Gbps par port. Son architecture se concentre sur la réduction de la latence de bout en bout grâce à un moteur de traitement de paquets optimisé et à la prise en charge de technologies telles que RoCEv2. Il est conçu pour fonctionner avec des commutateurs haute densité, éliminant les goulots d'étranglement dans la communication entre les GPU lors de l'entraînement distribué.
Quand votre routeur domestique demande grâce 😅
Pendant que le Thor 2 déplace 400 gigabits sans sourciller, votre routeur domestique s'étouffe probablement avec trois flux YouTube et un appel vidéo. C'est comme comparer une F1 à une trottinette de location. La prochaine fois que votre connexion tombe, souvenez-vous : il existe des cartes réseau qui déplacent en une seconde plus de données que votre opérateur ne vous en donnera en un an.