A corrida para treinar modelos de inteligência artificial maiores exige mover dados em velocidades impressionantes. A Broadcom apresenta o Thor 2, um adaptador Ethernet de 400G projetado para minimizar a latência em clusters de IA. Não é uma invenção para assistir Netflix mais rápido; é a rodovia por onde circulam os pensamentos das máquinas.
A arquitetura por trás do Thor 2 🚀
O BCM57608 integra um controlador de rede de alto desempenho que suporta conectividade Ethernet de 400 Gbps por porta. Sua arquitetura foca em reduzir a latência de ponta a ponta por meio de um motor de processamento de pacotes otimizado e suporte a tecnologias como RoCEv2. Ele é projetado para trabalhar com switches de alta densidade, eliminando gargalos na comunicação entre GPUs durante o treinamento distribuído.
Quando seu roteador de casa pede clemência 😅
Enquanto o Thor 2 move 400 gigabits sem esforço, seu roteador de casa provavelmente engasga com três streams do YouTube e uma videochamada. É como comparar um F1 com uma patinete de aluguel. Na próxima vez que sua conexão cair, lembre-se: existem placas de rede que em um segundo movem mais dados do que sua operadora lhe dará em um ano.