Advanced Micro Devices (AMD), a través de su CEO Lisa Su, presentó una innovadora tarjeta gráfica, conocida como Instinct MI300X. Esta GPU es fundamental en la estrategia de la empresa para la computación en inteligencia artificial.
Destaca por su increíble memoria y velocidad de procesamiento de datos para tareas generativas de IA como modelos de lenguaje de gran tamaño.
La Instinct MI300X se compone de múltiples «chiplets», chips individuales unidos en un solo paquete por memoria compartida y conexiones de red.
Cuenta con una asombrosa memoria DRAM de 192 gigabytes y una velocidad de memoria de 5.2 terabytes por segundo.
Se mencionó que es el único chip que puede manejar modelos de lenguaje de hasta 80 mil millones de parámetros en memoria.
Ventajas de la GPU Instinct MI300X
La Instinct MI300X es una mejora del anteriormente anunciado MI300A. En el MI300A, tres chiplets de CPU Zen4 se combinaban con múltiples chiplets de GPU. En cambio, en la MI300X, las CPUs se reemplazan por dos chiplets adicionales CDNA 3.
Esto incrementa el conteo de transistores de 146 mil millones a 153 mil millones, y se aumenta la memoria DRAM compartida de 128 gigabytes a 192 gigabytes. Además, se mejora la velocidad de memoria de 800 gigabytes por segundo a 5.2 terabytes por segundo.
La MI300X se perfila como un gran competidor de Nvidia, ya que ofrece 2.4 veces la densidad de memoria del GPU «Hopper» H100 de Nvidia, y 1.6 veces la velocidad de memoria.
La GPU Instinct MI300X es capaz de ejecutar modelos de hasta 80 mil millones de parámetros en memoria, lo que simplifica la cantidad de GPUs requeridas y aumenta la velocidad de desempeño.
El futuro de la IA con el MI300X y la Plataforma Instinct de AMD
La CEO de AMD, Lisa Su, explicó la importancia estratégica de los chiplets en el MI300X y cómo éstos permiten intercambiar entre CPU o GPU según las necesidades.
Esta característica, junto con la capacidad de memoria y velocidad de la GPU, sitúan a la Instinct MI300X como una excelente herramienta para el procesamiento de modelos de lenguaje de gran tamaño, cambiando el panorama de la inteligencia artificial.
Su mostró la potencia de la MI300X mediante una demostración con el modelo de lenguaje Falcon-40B. Esta tarjeta gráfica fue capaz de crear un poema acerca de San Francisco utilizando dicho modelo, evidenciando su capacidad para ejecutar redes neuronales de gran tamaño enteramente en su memoria.
AMD Contra Nvidia
Para competir con los sistemas DGX de Nvidia, AMD lanzó una familia de computadoras de IA denominada «Plataforma Instinct AMD». La primera de ellas combinará ocho MI300X con 1.5 terabytes de memoria HMB3, todo esto en un servidor que cumple con las especificaciones de la plataforma de cómputo abierta de la industria.
A diferencia del MI300X, que solo es una GPU, el existente MI300A compite con el chip combinado Grace Hopper de Nvidia, que utiliza la CPU Grace de Nvidia y su GPU Hopper.
La MI300A se está integrando en la supercomputadora El Capitan, en construcción en el Laboratorio Nacional Lawrence Livermore del Departamento de Energía, según señaló Su.
Finalmente, Su anunció que el MI300X comenzará a ser muestreado a clientes en el tercer trimestre de este año, y ambos modelos, MI300A y MI300X, estarán en producción en masa en el cuarto trimestre.
