La corsa per addestrare modelli di intelligenza artificiale sempre più grandi richiede lo spostamento di dati a velocità vertiginose. Broadcom presenta il Thor 2, un adattatore Ethernet da 400G progettato per ridurre al minimo la latenza nei cluster di IA. Non è un'invenzione per guardare Netflix più velocemente; è l'autostrada dove circolano i pensieri delle macchine.
L'architettura dietro il Thor 2 🚀
Il BCM57608 integra un controller di rete ad alte prestazioni che supporta connettività Ethernet da 400 Gbps per porta. La sua architettura si concentra sulla riduzione della latenza end-to-end tramite un motore di elaborazione dei pacchetti ottimizzato e il supporto per tecnologie come RoCEv2. È progettato per funzionare con switch ad alta densità, eliminando i colli di bottiglia nella comunicazione tra GPU durante l'addestramento distribuito.
Quando il tuo router di casa chiede pietà 😅
Mentre il Thor 2 sposta 400 gigabit senza sforzo, il tuo router di casa probabilmente si impappina con tre streaming di YouTube e una videochiamata. È come paragonare una F1 a un monopattino a noleggio. La prossima volta che la tua connessione cade, ricorda: ci sono schede di rete che in un secondo spostano più dati di quanti il tuo operatore te ne darà in un anno.