Samsung lanza la memoria HBM3e: la más rápida del mundo

Samsung y la quinta generación HBM3e: la memoria más rápida del mercado

¿Qué es HBM3e y por qué es importante?

HBM3e es el nombre de la nueva generación de memorias de alto ancho de banda (High Bandwidth Memory) que Samsung está desarrollando para el mercado de la computación de alto rendimiento (HPC) y la inteligencia artificial (IA). Estas memorias se caracterizan por ofrecer una velocidad de transferencia muy superior a la de las memorias convencionales, como las GDDR6 o las GDDR6X, que se utilizan en las tarjetas gráficas domésticas.

La velocidad de transferencia es la capacidad de enviar y recibir datos entre la memoria y el procesador. Cuanto mayor sea esta velocidad, mayor será el rendimiento del sistema, especialmente en aquellas tareas que requieren una gran cantidad de datos, como el procesamiento de imágenes, el aprendizaje profundo o la simulación científica.

Samsung ha anunciado que su quinta generación HBM3e alcanzará una velocidad de transferencia de 9,8 gigabits por segundo (Gbps) por pin, lo que supone un 40% más que la generación anterior, HBM3. Además, cada pila de memoria HBM3e tendrá una interfaz de 8192 bits, lo que permitirá un ancho de banda de 1,228 terabytes por segundo (TB/s) por pila. Esto significa que una tarjeta gráfica con cuatro pilas de memoria HBM3e podría tener un ancho de banda total de casi 5 TB/s, lo que supera con creces el ancho de banda de las tarjetas gráficas actuales.

¿Qué ventajas tiene HBM3e frente a otras memorias?

Además de ofrecer una velocidad de transferencia muy superior, las memorias HBM3e tienen otras ventajas frente a otras memorias. Una de ellas es el menor consumo energético, ya que al operar a una tensión más baja, se reduce el calor generado y se mejora la eficiencia. Otra ventaja es el menor tamaño, ya que al apilar varios chips de memoria en una sola pila, se reduce el espacio ocupado y se facilita la integración con el procesador.

Estas ventajas hacen que las memorias HBM3e sean ideales para los sistemas de HPC y IA, donde se necesita una gran potencia de cálculo y una gran cantidad de datos. Estos sistemas se utilizan en diversos campos, como la medicina, la astronomía, la meteorología o la ciberseguridad.

¿Qué desafíos tiene HBM3e y cómo los supera Samsung?

A pesar de sus ventajas, las memorias HBM3e también presentan algunos desafíos técnicos y económicos. Uno de ellos es el aumento de la temperatura dentro de la pila de memoria, debido al mayor número de chips y al mayor ancho de banda. Esto puede afectar a la fiabilidad y al rendimiento de la memoria.

Para solucionar este problema, Samsung ha desarrollado una tecnología llamada Advanced Mass Reflow Moulded Underfill (MR-RUF), que consiste en aplicar un material no conductor entre los chips para reducir el espacio entre ellos y mejorar la disipación del calor. Según Samsung, esta tecnología permite reducir un 10% la temperatura dentro de la pila.

Otro desafío es el alto coste de fabricación y ensamblaje de las memorias HBM3e, ya que requieren un proceso más complejo y preciso que las memorias convencionales. Esto hace que las memorias HBM3e sean mucho más caras que las GDDR6 o las GDDR6X, lo que limita su uso a los sistemas más avanzados y exigentes.

Para reducir el coste y aumentar la producción, Samsung está trabajando en optimizar sus tecnologías de fabricación y ensamblaje, como el Non-Conductive Film (NCF) y el Hybrid Copper Bonding (HCB), que permiten una mayor densidad y estabilidad de los chips. Además, Samsung está colaborando con otros fabricantes y clientes para enriquecer el ecosistema HPC/IA y ampliar el mercado potencial.

¿Cuándo estará disponible HBM3e y quién lo utilizará?

Samsung ha anunciado que empezará a suministrar muestras de sus memorias HBM3e a sus clientes pronto, y que iniciará la producción en masa en la primera mitad de 2024. Sin embargo, no ha revelado la capacidad de sus chips ni el precio de sus memorias.

Según la firma de investigación de mercado TrendForce, Samsung fabricará chips HBM3e de 24 GB durante el primer trimestre de 2024, y chips HBM3e de 36 GB durante el primer trimestre de 2025. Estas capacidades superan a las de las memorias HBM3 actuales, que tienen un máximo de 16 GB por chip.

Entre los posibles clientes de Samsung se encuentran NVIDIA y AMD, que son los principales fabricantes de tarjetas gráficas para HPC y IA. Se espera que NVIDIA lance su nueva generación de aceleradores Grace Hooper GH200 para IA y HPC en el segundo trimestre de 2024, y que estos aceleradores utilicen memorias HBM3e de Samsung. También se especula que AMD podría utilizar memorias HBM3e en sus futuros productos Instinct para IA y HPC.

¿Qué futuro le espera a HBM3e y a Samsung?

HBM3e es la memoria más rápida del mercado, y ofrece unas prestaciones muy superiores a las de otras memorias. Sin embargo, no es la última generación de memorias HBM, ya que Samsung ya está trabajando en el desarrollo de HBM4, que se espera que se introduzca en 2025 con una interfaz de 2048 bits por pila y una velocidad de transferencia aún mayor.

Samsung es el líder mundial en el mercado de las memorias DRAM, y tiene una gran experiencia y capacidad en el desarrollo y fabricación de memorias HBM. Con su quinta generación HBM3e, Samsung pretende consolidar su posición como proveedor líder de memorias para el mercado de HPC e IA, que tiene un gran potencial de crecimiento y demanda.

Samsung promueve activamente la quinta generación HBM3e: la velocidad de transferencia es más rápida que Hynix, hasta 1.228 TB/s