Das Rennen um das Training immer größerer KI-Modelle erfordert den Datentransfer mit atemberaubender Geschwindigkeit. Broadcom stellt den Thor 2 vor, einen 400G-Ethernet-Adapter, der darauf ausgelegt ist, die Latenz in KI-Clustern zu minimieren. Es ist keine Erfindung, um Netflix schneller zu sehen; es ist die Autobahn, auf der die Gedanken der Maschinen zirkulieren.
Die Architektur hinter dem Thor 2 🚀
Der BCM57608 integriert einen Hochleistungs-Netzwerkcontroller, der Ethernet-Konnektivität mit 400 Gbit/s pro Port unterstützt. Seine Architektur konzentriert sich auf die Reduzierung der Ende-zu-Ende-Latenz durch eine optimierte Paketverarbeitungs-Engine und Unterstützung für Technologien wie RoCEv2. Er ist für den Einsatz mit Switches hoher Dichte ausgelegt und beseitigt Engpässe in der Kommunikation zwischen GPUs während des verteilten Trainings.
Wenn dein Heimrouter um Gnade fleht 😅
Während der Thor 2 mühelos 400 Gigabit bewegt, verschluckt sich dein Heimrouter wahrscheinlich an drei YouTube-Streams und einem Videoanruf. Es ist, als würde man einen Formel-1-Wagen mit einem Leih-E-Scooter vergleichen. Wenn deine Verbindung das nächste Mal ausfällt, denk daran: Es gibt Netzwerkkarten, die in einer Sekunde mehr Daten bewegen, als dein Anbieter dir in einem Jahr liefern wird.