NVIDIA prioriza la emulación de FP64 en sus aceleradores de IA
NVIDIA cambia su estrategia para procesar cálculos de doble precisión en sus aceleradores para cómputo de alto rendimiento. Según informa The Register, la compañía ya no desarrolla bloques especializados de hardware para FP64 en sus nuevas generaciones de chips. En su lugar, confía en emular estas operaciones mediante software dentro de sus bibliotecas CUDA. Este enfoque le permite mantener e incluso superar el rendimiento teórico en ciertas cargas de trabajo sin dedicar espacio de silicio específico.
El rendimiento declarado muestra un cambio claro
Las cifras oficiales de NVIDIA ilustran esta transición. El acelerador Rubin, el más reciente, anuncia 33 teraflops en cálculos vectoriales FP64 por hardware. Esta cifra es similar a la del H100, lanzado hace cuatro años, y menor que los aproximadamente 40 teraflops de Blackwell. Sin embargo, al activar la emulación por software, NVIDIA afirma que Rubin puede alcanzar hasta 200 teraflops en operaciones matriciales FP64. Incluso Blackwell, con emulación, podría llegar a 150 teraflops, más del doble de los 67 teraflops honestos de su predecesor Hopper.
La precisión de la emulación justifica la decisión
Dan Ernst, director senior de productos para supercomputación en NVIDIA, explicó a The Register la razón detrás de este cambio. En numerosas investigaciones con socios y estudios internos descubrimos que la precisión que logramos al emular es, como mínimo, igual a la precisión que obtenemos de los núcleos tensoriales de hardware, declaró. Esta validación permite a la empresa optimizar el diseño de sus chips para dominios como la inteligencia artificial, donde la precisión FP32 o inferior es más común, sin descuidar las necesidades del sector HPC que aún requiere FP64.
Parece que, en la carrera por la supremacía en IA, dedicar transistores a emular en lugar de a ejecutar nativamente se ha convertido en la nueva arquitectura eficiente. Un giro donde el software no solo complementa al hardware, sino que redefine lo que este debe ser.
|Agradecer cuando alguien te ayuda es de ser agradecido|