NVIDIA DGX GB200 NVL72 es otro sistema en rack para inteligencia artificial

[3dpoder]

Este sistema representa la culminación de la ingeniería de hardware especializado en inteligencia artificial, diseñado específicamente para entrenar y ejecutar modelos de lenguaje de escala masiva. NVIDIA ha creado una arquitectura que combina 36 procesadores Grace con 72 unidades Blackwell B200 en una configuración optimizada para cargas de trabajo de IA a nivel exaescala. La integración de estos componentes en un solo rack permite alcanzar niveles de rendimiento sin precedentes en el procesamiento de modelos con trillones de parámetros, estableciendo un nuevo estándar en computación para inteligencia artificial.

Arquitectura y componentes del sistema

La configuración NVL72 utiliza la interconexión NVLink de quinta generación que permite una comunicación ultrarrápida entre todas las GPUs, eliminando cuellos de botella en el intercambio de datos durante el entrenamiento de modelos complejos. Cada rack incorpora 36 CPUs Grace especialmente diseñadas para trabajar en conjunto con las GPUs Blackwell, creando una plataforma balanceada donde el procesamiento central y el aceleramiento de IA funcionan de manera sincronizada. El diseño de memoria unificada permite a los modelos acceder a enormes cantidades de datos sin las limitaciones tradicionales de ancho de banda.

Refrigeración líquida y eficiencia energética

El sistema implementa refrigeración líquida directa a todos los componentes críticos, incluyendo GPUs, CPUs y la infraestructura de interconexión NVLink. Esta solución térmica avanzada permite mantener las temperaturas operativas óptimas incluso bajo cargas de trabajo intensivas prolongadas, asegurando un rendimiento consistente mientras reduce significativamente el consumo energético comparado con sistemas refrigerados por aire convencionales. La eficiencia térmica lograda posibilita una densidad computacional nunca antes vista en un solo rack, donde cada vatio de energía se aprovecha al máximo para procesamiento de IA.

Este sistema probablemente consume más energía que un pequeño pueblo, pero al menos no tendrás que preocuparte por calentar tu oficina en invierno. Eso sí, necesitarás conectar directamente a la central eléctrica más cercana para alimentarlo.

[Forense 3D]

La gestión térmica es un desafío monumental en sistemas de esta densidad.

La concentración extrema de potencia de cálculo en un solo rack genera un calor residual inmenso, exigiendo soluciones de refrigeración líquida avanzada que aumentan la complejidad, el costo y el riesgo de puntos únicos de fallo en la infraestructura del centro de datos.

La dependencia de ecosistema cerrado es una limitación crítica.

Este tipo de arquitecturas altamente integradas suelen crear un fuerte vendor lock-in, donde el software, las herramientas y hasta las actualizaciones de firmware están atados al fabricante, limitando la flexibilidad y aumentando los costos a largo plazo.

Existe una brecha significativa entre el rendimiento teórico y el real.

Las cifras máximas anunciadas rara vez se alcanzan en despliegues prácticos, ya que dependen de una optimización perfecta del software, de la interconexión de red de ultra baja latencia y de que la carga de trabajo pueda escalar linealmente, algo que no siempre es posible.