Grace CPU Superchip duplica el rendimiento

[3dpoder]

Nvidia aprovecha el GTC para presentar su primera CPU de centro de datos basada en Arm Neoverse. Una CPU diseñada para ser utilizada en infraestructuras de IA (inteligencia artificial) y computación de alto rendimiento. Es capaz de proporcionar el más alto rendimiento y el doble de ancho de banda de memoria y eficiencia energética en comparación con los chips líderes de la actualidad.

Esta GPU en realidad está compuesta por dos chips de CPU conectados entre ellos. De manera coherente, a través de NVLink-C2C, una nueva interconexión de chip a chip de alta velocidad y baja latencia.

El Grace CPU Superchip complementa el primer módulo integrado CPU-GPU de Nvidia, está diseñado para servir aplicaciones de HPC e IA a escalas gigantescas, junto con una GPU basada en la arquitectura Nvidia Hopper. Ambos superchips comparten la misma arquitectura de CPU subyacente, así como la interconexión NVLink-C2C.

Ha surgido un nuevo tipo de centro de datos; fábricas de IA que procesan y refinan montañas de datos para producir inteligencia artificial. El Grace CPU Superchip ofrece el más alto rendimiento, ancho de banda de memoria y plataformas de software Nvidia en un solo chip; un chip que según Nvidia brilla con luz propia.

Grace CPU Superchip ofrece un rendimiento aproximado de 740 en el punto de referencia SPECrate2017_int_base. Esto es más de 1.5 veces más alto si la comparamos con la doble CPU con el DGX A100 actual.

¿Qué es SPEC? The Standard Performance Evaluation Corporation

La corporación SPEC es una corporación sin fines de lucro formada para establecer, mantener y respaldar puntos de referencia y herramientas estandarizadas para evaluar el rendimiento y la eficiencia energética de la última generación de sistemas informáticos. SPEC desarrolla conjuntos de puntos de referencia y también revisa y publica los resultados presentados por nuestras organizaciones miembros y otros licenciatarios de referencia. Si te interesa el tema, puedes leer más en su web.

Volviendo al Grace CPU Superchip

Es capaz de proporcionar eficiencia energética y ancho de banda de memoria LPDDR 5x con código de corrección de errores. Esto mejora el equilibrio entre velocidad y consumo energético. El subsistema de memoria LPDDR 5x ofrece el doble de ancho de banda que los diseños DDR5 tradicionales a 1 terabyte por segundo. Mientras que consume mucho menos energía la CPU al máximo, incluida la memoria que consume solo 500 vatios.

El Grace CPU Superchip se basa en la última arquitectura de centro de datos, Arm9. Combinando el más alto rendimiento de núcleo de un solo subproceso con soporte para la nueva generación de extensiones vectoriales de Arm, el Grace CPU Superchip traerá beneficios inmediatos a muchas aplicaciones.

El Grace CPU Superchip ejecutará todas las pilas de software informático de Nvidia, incluidas Nvidia RTX, Nvidia HPC, Nvidia AI y Omniverse. El Grace CPU Superchip junto con las NIC Nvidia ConnectX-7 ofrecen la flexibilidad necesaria para configurarse en servidores como sistemas independientes solo de CPU o como servidores acelerados por GPU con una, dos, cuatro u ocho GPU basadas en Hopper. Lo que permite a los clientes optimizar el rendimiento para sus cargas de trabajo específicas mientras mantienen una sola pila de software.

Grace CPU Superchip destaca entre las mejores

Diseñado para aplicaciones de IA, HPC, Cloud e Hiperescala, Grace CPU Superchip destaca en las aplicaciones más exigentes de HPC, IA, análisis de datos, cálculo científica y cálculo a hiperescala logrando el más alto rendimiento, ancho de banda de memoria, eficiencia energética y configurabilidad.

Los 144 núcleos y 1 TB por segundo de ancho de banda de memoria del Grace CPU Superchip proporcionan un rendimiento sin precedentes para las aplicaciones informáticas de alto rendimiento basadas en CPU. Las aplicaciones HPC son intensivas en cálculo, exigiendo los núcleos de mayor rendimiento, el mayor ancho de banda de memoria y la capacidad de memoria adecuada por núcleo para acelerar los resultados.

Nvidia está trabajando con los principales clientes de HPC, supercomputación, hiperescala y nube para el Grace CPU Superchip. Se espera que tanto este como el Grace Hopper Superchip estén disponibles en la primera mitad de 2023.

[Forense 3D]

La gestión térmica en arquitecturas multi-chip es un desafío crítico, ya que la densidad de potencia concentrada puede crear puntos calientes difíciles de disipar, comprometiendo la estabilidad y la vida útil del componente si el sistema de refrigeración no está sobredimensionado.

Este diseño introduce una fuerte dependencia del software y firmware, ya que el rendimiento prometido solo se alcanza con una capa de abstracción y optimización perfectamente afinada, lo que puede generar inestabilidades en lanzamientos iniciales y limitar su uso en entornos legacy.

La compatibilidad de memoria y E/S se convierte en un cuello de botella encubierto; aunque se anuncia gran ancho de banda, este depende por completo de la calidad de los controladores de memoria, el diseño de la placa base y la latencia del interconectado entre los chiplets, factores que a menudo no cumplen con el ideal teórico.