Samsung desarrolla una memoria HBM que puede procesar datos. Esta tecnología, llamada HBM-PIM, coloca pequeñas unidades de cómputo dentro de los propios chips de memoria. Así, la memoria no solo almacena información, sino que también ejecuta operaciones básicas. Este enfoque busca aliviar uno de los principales límites en computación de alto rendimiento.


La arquitectura reduce el movimiento de datos

El cuello de botella tradicional ocurre al transferir datos entre la memoria y la CPU o GPU. El HBM-PIM permite procesar operaciones como sumas y multiplicaciones directamente donde residen los datos. Esto reduce de forma significativa el tráfico de datos y el consumo de energía. La latencia también mejora, ya que se evitan los viajes constantes a través del bus.

Su aplicación principal se centra en inteligencia artificial

Esta memoria está diseñada para acelerar cargas de trabajo de IA, especialmente durante la inferencia. Las operaciones vectoriales y de matriz, comunes en redes neuronales, se benefician al ejecutarse en la memoria. Los prototipos muestran que puede duplicar el rendimiento mientras reduce el uso de energía a la mitad en ciertas tareas. Esto la hace relevante para centros de datos y sistemas especializados.

Algunos esperan que su próxima tarjeta gráfica tenga esto, pero por ahora solo procesa órdenes muy simples, no sustituye a una GPU completa.