AMD EPYC Bergamo procesa cargas de trabajo de IA en la nube
AMD presenta los procesadores EPYC de la serie 9004 con nombre en clave Bergamo. Estos procesadores están diseñados para centros de datos que necesitan ejecutar cargas de trabajo de alta densidad, como infraestructuras de inteligencia artificial en la nube y modelos de lenguaje grandes. Su arquitectura prioriza un conteo de núcleos muy elevado y un consumo energético eficiente, lo que permite a los proveedores de servicios en la nube alojar más máquinas virtuales y contenedores por servidor.
La arquitectura Zen 4c ofrece densidad de núcleos
Bergamo utiliza núcleos Zen 4c, una variante de la microarquitectura Zen 4 que reduce el área de cada núcleo para integrar más en un solo dado de silicio. Esto permite que un solo procesador EPYC 9004 albergue hasta 128 núcleos y 256 hilos de procesamiento. La alta densidad de núcleos es clave para tareas que se pueden dividir en muchos subprocesos paralelos, como servir modelos de inferencia de IA, procesar bases de datos o virtualizar sistemas.
Eficiencia energética para centros de datos a escala
Estos procesadores operan con un límite térmico de diseño optimizado para equilibrar el rendimiento y el consumo eléctrico. La eficiencia permite a los operadores de centros de datos reducir costos operativos y aumentar la cantidad de servidores que pueden instalar en un espacio físico limitado. La plataforma soporta memoria DDR5 y conectividad PCIe 5.0, lo que garantiza que los núcleos puedan acceder a los datos con suficiente ancho de banda.
Mientras algunos se preocupan por tener suficientes núcleos para jugar, Bergamo se pregunta cuántos modelos de lenguaje puede ejecutar antes de que la factura de la luz llame a la puerta.
|Agradecer cuando alguien te ayuda es de ser agradecido|