Hot Chips 2026において、Googleは第8世代TPUを発表し、トレーニングに特化したTPU 8tと、推論向けに設計されたTPU 8iの2つのバリエーションを提示しました。両方とも、混合専門家（MoE）アーキテクチャと長いコンテキスト向けに最適化されており、これは現在の業界の需要への直接的な対応です。この提案は、独自ハードウェアをAIコンピューティングの基盤として強化することを目指しています。
Axionアーキテクチャとメモリ：推論への注力 🚀
TPU 8iは、生成モデルのレイテンシーを低減するための重要な要素である、優れたHBMおよびSRAM帯域幅を優先している点が特徴です。注目すべき点は、このバリアントがArmアーキテクチャに基づく自社設計のAxion CPUに依存していることです。この組み合わせにより、生成AIパイプラインとレンダリングタスクをよりスムーズに実行でき、ボトルネックをメモリから実際のコンピューティングへと移すことができます。これは、業界の専門家が日々のワークフローで実感できる変化です。
いつも最新ハードウェアを持っている隣人 😅
他の皆がGPUの予算をやりくりしようとしている間、Googleは携帯電話を替えるかのように、新しいTPUを2つも出してきます。8tと8iは、まるでポケットにスーパーコンピューターを持っているかのような自然さで登場し、さらに8iは自社のAxion CPUも連れてきました。まるで上の階の隣人が、最高のゲーム機を持っているだけでなく、グリップの良いコントローラーも持っているようなものです。少し羨ましいですが、少なくともレンダリングの未来が本気であることは分かります。