Al Hot Chips 2026, Google ha svelato la sua ottava generazione di TPU, presentando due varianti: la TPU 8t, focalizzata sull'addestramento, e la TPU 8i, progettata per l'inferenza. Entrambe sono ottimizzate per architetture di miscuglio di esperti (MoE) e contesti lunghi, una risposta diretta alle attuali richieste del settore. La proposta mira a consolidare l'hardware proprietario come pilastro del calcolo IA.
Architettura Axion e memoria: La scommessa sull'inferenza 🚀
La TPU 8i si distingue per dare priorità a una larghezza di banda HBM e SRAM superiore, elementi chiave per ridurre la latenza nei modelli generativi. Un dettaglio rilevante è che questa variante si basa su CPU Axion di progettazione propria, basate su architettura Arm. Questa combinazione consente di eseguire pipeline di IA generativa e attività di rendering con maggiore fluidità, spostando il collo di bottiglia dalla memoria al calcolo reale, un cambiamento che i professionisti del settore noteranno nei loro flussi di lavoro quotidiani.
Il vicino che ha sempre l'hardware più nuovo 😅
Mentre gli altri cercano di far quadrare i budget per una GPU, Google tira fuori due nuove TPU come chi cambia telefono. La 8t e la 8i arrivano con la naturalezza di chi ha un supercomputer in tasca, e la 8i per di più si porta dietro le sue CPU Axion per mano. È come se il vicino del piano di sopra, oltre ad avere la migliore console, avesse anche il controller con la migliore impugnatura. Fa un po' invidia, ma almeno sappiamo che il futuro del rendering fa sul serio.