SambaNova apresentou no Hot Chips 2026 seu acelerador SN50, a quinta geração de sua unidade de fluxo de dados reconfigurável. O chip dobra o SRAM do SN40 e quintuplica os FLOPS, escalando até 256 nós. No entanto, mantém HBM2e, uma memória em declínio. Para o profissional, a inferência de modelos como DeepSeek V3 é otimizada na decodificação, superando as limitações de largura de banda típicas das GPUs.
Arquitetura de fluxo de dados: o truque para escapar do gargalo 🚀
O SN50 não compete por mais largura de banda bruta, mas sim por eficiência no fluxo de dados. Ao quintuplicar os FLOPS e dobrar o SRAM on-chip, ele consegue manter os pesos do modelo próximos ao cálculo, reduzindo a dependência da memória externa. Na decodificação, a fase crítica da IA generativa, isso permite taxas de tokens por segundo muito superiores a uma GPU com especificações semelhantes. A escalabilidade para 256 nós sugere um sistema pensado para clusters dedicados, não para ambientes heterogêneos.
HBM2e: como levar um disquete para uma corrida de Fórmula 1 ⚠️
A decisão de manter HBM2e causa curiosidade. É como comprar um motor de F1 e montar rodas de bicicleta: funciona, mas o potencial fica na oficina. Enquanto NVIDIA e AMD migram para HBM3e e HBM4, a SambaNova aposta em uma memória que os fabricantes já não priorizam. Talvez o SN50 seja uma obra-prima de engenharia, mas sua longevidade dependerá de se alguém ainda fabrica a peça de reposição. A eficiência em IA generativa tem data de validade, e essa memória é o ticket.